Стрімкий розвиток моделей штучного інтелекту посилює дискусію щодо ризиків їхнього потенційного використання для створення небезпечних біологічних агентів або інших шкідливих матеріалів. Експерти та уряди дедалі активніше обговорюють, як поєднати відкритість сучасних ШІ-систем із необхідністю запобігати їхньому зловмисному використанню.

Попри те, що провідні компанії впроваджують механізми безпеки та обмеження на видачу небезпечної інформації, дослідники зазначають, що окремі користувачі намагаються обходити такі запобіжники за допомогою спеціальних методів формулювання запитів або використання моделей із менш суворими обмеженнями.

Водночас у США наразі немає федерального законодавства, яке б зобов’язувало розробників моделей штучного інтелекту повідомляти правоохоронні органи про потенційно підозрілі запити користувачів. На думку фахівців, це створює прогалину в системі безпеки, оскільки технології розвиваються швидше, ніж механізми державного регулювання.

Розробники ШІ опинилися перед складним вибором: з одного боку, вони прагнуть забезпечити науковців і медиків сучасними інструментами для досліджень, а з іншого — мінімізувати ризики використання цих технологій зі злочинною або терористичною метою.

Додатковим викликом є поширення відкритих і закордонних моделей штучного інтелекту, де рівень захисних механізмів може суттєво відрізнятися або бути значно нижчим, ніж у провідних комерційних системах. Це ускладнює контроль за потенційно небезпечним використанням технологій на глобальному рівні.