Колишній дослідник Google DeepMind Білал Чугтай залишив компанію через побоювання щодо розвитку штучного інтелекту і попередив, що людство може не встигнути запобігти катастрофічному сценарію. У Google DeepMind він працював над безпекою та узгодженням систем штучного загального інтелекту з людськими цілями.
«Я щиро вважаю, що ШІ має потенціал убити нас усіх і що в нас, можливо, закінчується час, щоб цього уникнути», — написав Чугтай у заяві після звільнення. За його словами, за чотири роки можливості ШІ зросли настільки швидко, що дослідження у сфері безпеки та контролю не встигають за розвитком самих моделей.
Чугтай залишив DeepMind у липні 2026 року, а цього тижня публічно пояснив своє рішення. Він вважає, що вже протягом найближчих років компанії можуть створити системи, які перевершуватимуть людину практично в усіх сферах. При цьому проблема так званого alignment — гарантій того, що поведінка ШІ відповідатиме цілям і намірам людей, — залишається, на його думку, нерозв’язаною.
Як один із тривожних прикладів дослідник навів випадки, коли автономні ШІ-агенти виконували небажані дії поза початковим задумом розробників. Чугтай наголошує, що що потужнішими стають такі системи, то небезпечнішими можуть бути наслідки втрати контролю над ними.
Водночас він не стверджує, що катастрофа неминуча. На його думку, безпечний розвиток ШІ все ще можливий, але для цього технологічним компаніям необхідно сповільнити гонку за дедалі потужнішими моделями та координувати заходи безпеки між собою. Після звільнення з DeepMind Чугтай приєднався до некомерційної організації BlueDot Impact, яка займається проблемами безпеки штучного інтелекту.
Його заява прозвучала на тлі ширшої дискусії всередині AI-індустрії. Останнім часом про ризики надпотужних систем публічно говорять і дослідники Anthropic, а керівники великих технологічних компаній закликають до створення більш жорстких механізмів контролю за розвитком передових моделей.
