Лидеры IT-отрасли договорились не создавать смертоносное оружие на базе искусственного интеллекта
Илон Маск, основатели DeepMind, Skype и десятков других компаний подписали соглашение, в котором договорились не работать над проектами, где искусственный интеллект используется для создания летального автономного оружия, пишет Engadget. Всего под документом подписались больше 160 организаций и около 2 тысяч человек, включая ведущих специалистов в области ИИ.
Инициатор подписания документа — некоммерческая организация Future of Life Institute. Именно она провела международную конференцию в Стокгольме, в ходе которой и было заключено соглашение. В документе среди прочего сказано, что «решение о лишении человека жизни ни в коем случае нельзя передавать машинам».
«Тысячи исследователей согласны с тем, что смертоносное оружие, которое работает на основе искусственного интеллекта, может стать мощным инструментом насилия и угнетения, — отметил президент Future of Life Institute Макс Тегмарк. — Я очень рад, что лидеры в этой области наконец-то переходят от разговоров к действию и начинают реализовывать те принципы, которые до сих пор не реализовали политики. У искусственного интеллекта есть огромный потенциал для способствования миру — но только в том случае, если нам удастся предотвратить злоупотребление. Оружие, которое автономно принимает решение об убийстве людей, столь же отвратительно, как и биологическое. Их стоит рассматривать в одном ключе».
Военный аналитик Пол Шар в разговоре с The Verge хоть и поприветствовал подписание документа, но заявил, что радоваться рано, ведь «кошка уже вышла из сумки»: сегодня по меньшей мере 30 стран активно используют автономное вооружение в системе военной обороны.
В последнее время сотрудничество лидеров IT-рынка с полицией и армией оборачивается скандалами. Около месяца назад несколько специалистов Google уволились в знак протеста против сотрудничества компании с Пентагоном; Amazon раскритиковали за продажу властям системы распознавания лиц на базе ИИ. Противники сотрудничества опасаются, что технологии, разработанные ведущими компаниями, могут быть использованы в том числе для создания смертоносного оружия.
