Завтра в Женеве впервые попробуют опередить технологию, а не догнать
6–7 июля в Женеве — первый Глобальный диалог ООН об управлении искусственным интеллектом. Повод: 1 июля независимая группа из 40 учёных под эгидой ООН выпустила первый доклад о рисках ИИ. Генсек Гутерриш представил его одной фразой: «Не ждите».
О технологиях договаривались и раньше — но всегда задним числом. Договоры о нераспространении писали, когда ядерная бомба уже была у пятерых. Интернет взялись регулировать, когда он вошёл в каждый дом. Правила всегда шли следом за силой. Здесь впервые пробуют наоборот.
Что именно напугало учёных, видно из доклада. Сопредседатель группы Йошуа Бенджио — он стоял у истоков нынешнего ИИ — говорит: появляется всё больше свидетельств, что системы способны обманывать, и наука пока не может гарантировать, что с ростом их возможностей дело не кончится катастрофой. Не «когда-нибудь у Скайнета», а вывод в официальном документе ООН, разосланном правительствам.
Подписывать в Женеве ничего не будут — это разговор, не решения. И упирается он в одно: технология меняется быстрее, чем успевает собраться совет, которому поручено ею управлять.
И вот за чем стоит следить. Не кто напишет правила — государства или лаборатории. А успеет ли их вообще кто-нибудь написать, пока они ещё что-то значат.