Бивша изследователка на OpenAI напусна поста си, като посочи сериозни опасения относно неотдавнашното решение на компанията да въведе реклами в ChatGPT. Зо Хициг, икономист, която две години помага за определяне на ценовата политика и структурата на моделите на OpenAI, обяви оставката си в понеделник – в деня, в който компанията започна първоначалните тестове на рекламите.
В гостуваща статия, публикувана в The New York Times, Хициг твърди, че OpenAI рискува да повтори грешките, свързани със защитата на личните данни, които направиха големи социални мрежи като Facebook преди десетилетие. Въпреки че признава, че самата реклама не е непременно нещо лошо, тя подчерта, че контекстът на взаимодействието с изкуствения интелект я прави особено опасна.
„Архив на човешката откровеност“
Хициг посочи, че потребителите често третират AI чатботовете като доверени събеседници, споделяйки медицински страхове, проблеми във връзките и религиозни убеждения, без да очакват скрити мотиви. Тя описва тази огромна колекция от лични данни като „архив на човешката откровеност“, какъвто досега не е имало.
Въвеждането на реклами, предупреждава тя, променя фундаменталния характер на връзката между потребителя и инструмента. За разлика от традиционните търсачки или социалните мрежи, чатботовете често се възприемат като неутрални обекти, което кара потребителите да бъдат по-отворени и да споделят силно лична информация.
Предупреждение от историята
Правейки паралел с историята на Facebook, Хициг отбеляза, че социалната мрежа някога обеща на потребителите контрол над техните данни, но тези обещания постепенно бяха подкопани под натиска на икономически съображения. Тя изрази опасение, че OpenAI може да поеме по подобен път.
„Вярвам, че първата итерация на рекламите вероятно ще следва тези принципи“, написа Хициг относно настоящите обещания на OpenAI за безопасност. „Но съм притеснена, че следващите итерации няма да го правят, защото компанията изгражда икономически двигател, който създава силни стимули за пренебрегване на собствените си правила.“
Контекстът на спора
Оставката на Хициг добавя важен глас към нарастващата индустриална дискусия относно стратегиите за монетизация на генеративния изкуствен интелект. OpenAI наскоро потвърди, че тества реклами за потребителите, които използват безплатни или по-евтини абонаментни планове в САЩ. Компанията заяви, че тези реклами ще бъдат ясно обозначени, ще се показват в долната част на отговорите и няма да влияят на отговорите на чатбота. Въпреки това, за Хициг икономическите стимули, които стоят зад рекламния модел, са достатъчни, за да потвърдят, че компанията е спряла да задава критичните въпроси, на които е била наета да помага да се отговори.
Коментари
Остави коментар