- Даріо Амодеї опублікував есе на тему ризиків розвитку ШІ.
- Він вважає, що контроль за індустрією слід посилити.
- Також CEO Anthropic порушив питання зростання безробіття та потенційного впливу ШІ на громадянські свободи.
CEO компанії Anthropic Даріо Амодеї заявив, що влада США має запровадити обов’язкові вимоги безпеки для найпотужніших ШІ-моделей. Про це йдеться в новому есе під назвою Policy on the AI Exponential.
Зволікати більше не можна
Амодеї наголосив, що сфера ШІ розвивається вкрай швидкими темпами. За чотири роки індустрія зробила крок від примітивних рішень до моделей, які пишуть більшу частину коду для великих технокомпаній. І темп зростання, на думку CEO Anthropic, лише посилюватиметься.
За таких умов влада не може зволікати, вважає він. За ті роки, які знадобляться Конгресу США на розробку заходів, ШІ перетвориться з «іграшки» на «країну геніїв у межах одного дата-центру».
Поточних заходів, а саме вимог до прозорості, експортного контролю за чипами та збору даних про вплив ШІ на ринок праці, вже недостатньо, вважає Амодеї.
Водночас справа не обмежується лише потенційною загрозою в кіберсфері:
«Кіберризики, які становлять моделі класу “Mythos”, не будуть останнім, із чим нам доведеться зіткнутися. Я вважаю, що невдовзі можуть настати біологічні ризики, і що серйозні ризики, пов’язані з автономністю ШІ, можуть з’явитися не так уже й скоро».
Ті самі перші кроки, які вже були зроблені, відстають від темпів розвитку індустрії щонайменше на рік, наголосив Амодеї.
Що пропонує CEO Anthropic?
З есе випливає, що Амодеї підтримує посилення нагляду. Це передбачає, зокрема:
- обов’язкове тестування потужних моделей. Моделі вище певного порога обчислень мають проходити незалежну перевірку третьою стороною;
- фокус на певних ризиках. Перевірка моделей має проводитися на кіберзагрози, ризики створення біологічної зброї, втрату контролю над ШІ-системами та можливість автоматизованої розробки;
- право держави блокувати випуск моделі. Якщо незалежна оцінка показує неприйнятний ризик, держава повинна мати можливість заборонити або зупинити реліз такого рішення;
- перевіряльники можуть бути державними або ліцензованими приватними структурами. Як приклад Амодей наводить модель Федерального управління цивільної авіації (FAA). Або агентство саме перевіряє моделі, або допускає підконтрольних приватних аудиторів;
- жорсткі вимоги до безпеки ШІ-компаній. Такі організації мають захищати ваги моделей, проводити регулярний внутрішній аудит і співпрацювати з державою проти великих загроз.
- обов’язкова звітність про інциденти. Якщо стався серйозний інцидент в одній із критичних зон ризику, компанія повинна швидко повідомляти про це.
Водночас у своєму есе Амодей порушує й інші питання. Він вважає, наприклад, що ШІ, який здатен суттєво посилити когнітивні функції, може закласти основу для сталого економічного зростання. Однак це, своєю чергою, призведе до більш масштабних і довгострокових наслідків для ринку праці, вважає CEO Anthropic.
Амодей підкреслив, що не хоче бути «пророком апокаліпсису». Він неодноразово попереджав про ризики втрати робочих місць і зростання безробіття, але робив це, щоб застерегти політиків і дати їм можливість підготуватися, йдеться в есе.
Серед можливих заходів CEO Anthropic виокремив: точніше відстеження даних, стимулювання зайнятості та макроекономічну підтримку, включно з універсальним базовим доходом.
Також Амодей зазначив, що ШІ може різко посилити владу держави або корпорацій: автономна зброя, масове стеження й аналіз даних можуть обійти звичні демократичні обмеження. Тому потрібно заздалегідь захистити громадянські свободи.
Він пропонує: заборонити використання повністю автономної зброї всередині країни, закрити лазівку з купівлею даних у брокерів для масового стеження, зобов’язати автономні системи підкорятися судам і законним механізмам контролю, а також надати громадянам доступ до ШІ-супроводу, якщо проти них діє держава.
CEO Anthropic опублікував своє есе на тлі публічного випуску просунутої моделі Claude Fable 5 і допуску окремих компаній до Mythos 5. Детальніше:
Claude Fable 5: тестуємо першу загальнодоступну модель класу Mythos 10.06.2026 Читати
Раніше компанія Anthropic закликала уповільнити розвиток штучного інтелекту через ризик втрати контролю.
Сообщение CEO Anthropic закликав до жорсткішого нагляду за сферою ШІ появились сначала на INCRYPTED.
