Министерството на отбраната активно обмисля прекратяване на отношенията си със стартъпа за изкуствен интелект Anthropic поради отказа на компанията да направи компромис със своите етични стандарти по отношение на военните приложения. Високопоставен служител от администрацията разкри, че Пентагонът е разочарован от съпротивата на Anthropic да позволи „неограничено използване“ на нейните системи с изкуствен интелект, особено за мащабно вътрешно наблюдение и разработването на напълно автономни оръжейни системи.
Договорни спорове и етични граници
Конфликтът възниква от договор, подписан миналото лято, на стойност до 200 милиона долара. Въпреки че Anthropic се съгласява на споразумението, за да подкрепи отбранителните инициативи, компанията установява строги забрани за използване на нейните модели за улесняване на насилие, провеждане на наблюдение или разработване на оръжейни системи. Съобщава се, че Пентагонът настоява за възможността да използва инструментите за всички „законни цели“, без да е необходимо да обосновава отделните случаи на използване, което е изискване, което е в противоречие с правилата за безопасност на компанията за изкуствен интелект.
„Всичко е на масата, включително пълно прекратяване на отношенията“, заяви високопоставеният служител, като намекна, че ако настоящата ситуация продължи, ще бъде потърсен подходящ заместител на доставчика.
Споровете около операцията срещу Мадуро
Ситуацията се изостри през януари след военна операция на САЩ, предназначена да залови венецуелския президент Николас Мадуро. Съобщава се, че представител на Anthropic се е свързал с компанията за анализ на данни Palantir, за да попита дали Claude, асистентът с изкуствен интелект на Anthropic, е бил използван по време на операцията. Служителят от администрацията отбеляза, че това запитване предполага неодобрение, особено защото операцията е включвала „кинетичен огън“.
Говорител на Anthropic отрече да са водени конкретни оперативни дискусии с Министерството на отбраната или с партньори в индустрията. Компанията повтори, че настоящите дискусии са строго фокусирани върху поддържането на строги ограничения срещу автономни оръжия и вътрешно наблюдение, вместо да коментира текущи мисии.
Реакцията на Пентагона и корпоративната политика
Главният говорител на Пентагона, Шон Парнел, подчерта необходимостта отбранителните партньори да подкрепят военните без ограничения, като посочи, че партньорството е под преразглеждане. Междувременно Anthropic се ориентира в сложна политическа среда и наскоро обеща 20 милиона долара на супер PAC, която се противопоставя на групи, финансирани от конкурента OpenAI.
Тъй като дебатът относно военното приложение на търговските модели с изкуствен интелект продължава, изходът от този спор може да създаде важен прецедент за това как технологичните компании балансират правителствените договори с вътрешните етични насоки.
Коментари
Остави коментар