Изкуственият интелект в чатбот предизвика спорове, след като маркира книгите „1984“ и „Здрач“ като неподходящи за премахване от библиотеката на училище във Великобритания.

Едно средно училище в района на Голям Манчестър предизвика дебат относно ролята на изкуствения интелект в образованието, след като служителите използваха AI чатбот, за да извършат проверка на библиотечния фонд на училището. Технологията отбеляза приблизително 200 книги, които трябва да бъдат премахнати, като посочи опасения относно тяхната уместност, засягащи както класическата литература, така и съвременната документална литература.

Според доклади на организацията за свобода на изразяването „Индекс за цензура“, генерираният от изкуствения интелект анализ е насочен към заглавия, вариращи от „1984“ на Джордж Оруел до „Здрач“ на Стефани Майер. Твърди се, че чатботът е обосновал тези препоръки, като е идентифицирал теми като „изтезания“, „сексуален принуд“ и „зрели романтични теми“. Други произведения, определени за премахване, включват автобиографията на Мишел Обама и „Дневникът“ на Никълас Спаркс.

Библиотекарката е обект на разследване във връзка със защитата на децата

Ситуацията ескалира, когато библиотекарката възрази срещу масовото премахване на книги. След като отказа да забрани заглавията, тя беше подложена на вътрешно разследване във връзка със защитата на децата. „Индекс“ съобщава, че библиотекарката е обвинена във въвеждане на неподходящ материал и в неспазване на протоколите за защита на децата.

Твърди се, че спорът започва през ноември 2025 г., когато директорът на училището нарежда премахването на книгата „Мъже, които мразят жените“ от Лора Бейтс, която е документална литература и изследва културата на „инцелите“. Въпреки че книгата е поставена в секция за по-големи ученици, тя е счетена за рискова поради излагането на мизогинни убеждения.

Професионални последици и реакция в индустрията

Подложена на разследване, библиотекарката подава оставка поради стреса. Въпреки това, местният съвет потвърждава оплакването за неспазване на мерките за защита на децата, което на практика я лишава от възможността да работи в училища в бъдеще.

Организациите в индустрията критикуваха подхода на училището. Каролайн Рош, председател на Групата за училищни библиотеки (SLG), заяви, че интензивността на процеса за защита на децата е „прекалена“ и несправедливо е съсипала кариерата на библиотекарката. В момента SLG подкрепя бившия служител, тъй като по-широките последици от използването на изкуствен интелект за модериране на съдържание в образователна среда продължават да се проявяват.