Британський науковець, лауреат Нобелівської премії з фізики та один із піонерів сучасного штучного інтелекту Джеффрі Гінтон, якого часто називають «хрещеним батьком ШІ», попередив про серйозні ризики розвитку технологій штучного інтелекту. За його словами, головна проблема полягає не лише у можливостях ШІ, а в тому, що великі технологічні компанії зосереджені на гонці за лідерство, а не на безпеці людства.

Гінтон зазначив, що під час розмов із представниками IT-компаній часто чує запевнення, що «розумні спеціалісти про все подбають». Проте, на його думку, саме це і є проблемою, адже бізнес більше переймається конкуренцією, ніж питанням, чи зможе суспільство впоратися з наслідками технологічної революції.

Окрему увагу науковець звернув на ризик масового безробіття через автоматизацію. Він вважає, що уряди та суспільства недостатньо готуються до сценарію, коли штучний інтелект почне витісняти людей із ринку праці.

Водночас Гінтон вбачає і позитивний момент: жодна країна світу, включно зі США та Китаєм, не зацікавлена в тому, щоб ШІ повністю захопив контроль над людьми. На його думку, це відкриває можливість для міжнародної співпраці у сфері безпеки штучного інтелекту.

Науковець також поставив фундаментальне питання: чи зможе людство контролювати систему, яка стане розумнішою за своїх творців. За словами Гінтона, нині уряди та корпорації помилково сприймають ШІ як «дуже розумного помічника», яким можна керувати, але ця модель може перестати працювати, коли інтелект машин перевищить людський.

Як приклад він навів взаємодію немовляти з матір’ю: менш розумна істота інколи здатна «керувати» більш розумною через систему залежностей і мотивації. Саме такий принцип, на його думку, людству, можливо, доведеться шукати у взаємодії зі штучним інтелектом.