Ілон Маск та інші експерти закликали призупинити розробку систем штучного інтелекту

Понад тисячу експертів у галузі штучного інтелекту, вчені та керівники компаній оприлюднили відкритий лист із закликом призупинити розробку потужних систем ШІ, посилаючись на значні ризики для людства. Лист опубліковано на сайті некомерційної організації Future of Life Institute. Серед підписантів — голова Tesla, SpaceX і Twitter Ілон Маск, співзасновник Apple Стів Возняк, співзасновник Skype Яан Таллінн, керівник Getty Images Крейг Пітерс, письменник і професор Юваль Ной Гарарі та інші.

Експерти вважають, що удосконалений штучний інтелект може спричинити кардинальні зміни в історії життя на Землі, якщо його розробку не взяти під надійний контроль. У листі зазначено, що зараз навіть творці «потужних цифрових розумів» не можуть повністю зрозуміти та передбачити, куди призведе їхній розвиток.

«Ми повинні запитати себе: чи маємо ми дозволити машинам заповнювати наші інформаційні канали пропагандою та неправдою? Чи слід автоматизувати всі роботи? Чи варто ризикувати втратою контролю над нашою цивілізацією? Потужні системи ШІ слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики — керованими», — сказано в листі.

Підписанти документу закликають усі лабораторії ШІ негайно призупинити принаймні на пів року навчання систем, потужніших за GPT-4. Якщо таку паузу не можна взяти швидко, уряди повинні втрутитися та запровадити мораторій.

Раніше цього місяця лабораторія OpenAI, яку підтримує Microsoft, представила четверту версію мовної моделі GPT (Generative Pre-trained Transformer). Вона здатна читати, аналізувати та генерувати великі об’єми тексту, а також працювати із зображеннями.

Фото: Ілон Маск. Фото: Trevor Cokley / Wikimedia Commons