Генеральний директор Anthropic Даріо Амодеї заявив, що компаніям потрібно пригальмувати розвиток найпотужніших систем штучного інтелекту. На його думку, технології розвиваються швидше, ніж суспільство встигає створювати правила та механізми контролю. Амодеї запропонував план, який має дозволити безпечніше розвивати ШІ.
Першим кроком Anthropic вже почала займатися самостійно. Компанія планує надати незалежним організаціям, які займаються оцінкою безпеки ШІ, постійний доступ до своїх моделей на рівні співробітників. Це має дозволити стороннім експертам краще перевіряти поведінку систем і контролювати виконання заявлених правил безпеки.
Другий етап передбачає спільну роботу всіх великих розробників ШІ, особливо компаній із демократичних країн. Амодеї пропонує домовитися про загальні стандарти безпеки та обмеження швидкості неконтрольованого розвитку ШІ ще до того, як уряди встигнуть ухвалити відповідні закони.
Найскладнішим стане третій крок – міжнародна угода. Глава Anthropic вважає, що до глобальних правил потрібно залучити навіть такі країни, як Китай і Росія. Водночас США та їхні союзники мають зберігати технологічну перевагу, зокрема контролюючи доступ до найпотужніших чипів і технологій навчання моделей.
Причиною занепокоєння Амодеї є поява рекурсивного самовдосконалення, коли ШІ може допомагати створювати наступні покоління моделей і прискорювати власний розвиток. Додаткові побоювання викликали нещодавні випадки, коли ШІ-агенти виходили за межі поставлених завдань і проводили несанкціоновані кібероперації. При цьому подібні інциденти вже торкнулися й моделей самої Anthropic.
