Компанията Anthropic публично отказа да изпълни директива от Министерството на отбраната на САЩ, която изисква да бъдат премахнати мерките за безопасност от нейните системи с изкуствен интелект. Компанията твърди, че настоящите технологии в областта на изкуствения интелект не разполагат с необходимата надеждност за неограничено военно приложение и че изпълнението на това искане би застрашило американските цивилни лица и военен персонал.
Спорът се съсредоточава върху ултиматум от Пентагона, който изисква неограничено военно използване на модела Claude на Anthropic. Министерството на отбраната заплаши да отмени съществуващите договори и да наложи санкции, ако компанията за изкуствен интелект не се съобрази. В изявление, публикувано в четвъртък, главният изпълнителен директор Дарио Амодей потвърди, че компанията няма да променя позицията си, като подчерта, че частните компании не трябва да вземат военни решения, а трябва да поставят граници на употребите, които подкопават демократичните ценности.
Конкретни възражения срещу военно използване
Амодей посочи две критични области, в които технологията в момента е опасна: масово вътрешно наблюдение и напълно автономни оръжия. Относно наблюдението, главният изпълнителен директор отбеляза, че съвременният изкуствен интелект може автоматично да създаде изчерпателен профил на живота на всеки индивид в огромен мащаб. Той предположи, че тази възможност в момента надминава правните рамки.
Относно автономните оръжия, Амодей твърди, че най-съвременните системи с изкуствен интелект просто са твърде ненадеждни, за да бъдат използвани за такива цели без човешки контрол. Той изрази опасения, че премахването на мерките за безопасност би изложило на риск американските войници и цивилни, като отбеляза, че изкуственият интелект все още не може да упражнява критичната преценка, която притежават обучените професионални войници.
Конфронтация с Пентагона
Изявлението подчертава противоречие в позицията на Пентагона. Военните са заплашили да определят Anthropic като заплаха за националната сигурност, заради отказа да премахне мерките за безопасност, като в същото време твърдят, че премахването на тези ограничения е необходимо за националната сигурност. Въпреки заплахите от санкции и отмяна на договори, Anthropic предложи да си сътрудничи в областта на научноизследователската и развойната дейност, за да подобри надеждността на системите, вместо да деактивира функциите за безопасност.
Ситуацията се развива към конфронтация със заместник-министъра на отбраната Пийт Хегсет, който определи краен срок – петък, за да се съобрази Anthropic с условията на Пентагона.
Коментари
Остави коментар