Основатели OpenAI призывают к жёсткому международному контролю ИИ


Фото из открытых источников
В своей статье на странице OpenAI отцы-основатели OpenAI: Sam Altman, Greg Brockman, Ilya Sutskever обратились к миру с призывом к жёсткому международному контролю над ИИ.
 
В статье Governance of superintelligence они пишут (вступление): 
"Сейчас самое время задуматься об управлении сверхразумом — будущими системами ИИ.
С учетом текущей ситуации можно предположить, что в течение следующих десяти лет системы искусственного интеллекта достигнут уровня экспертных навыков во многих областях и смогут выполнять такую же продуктивную деятельность, как одна из сегодняшних крупнейших корпораций.
 
Сверхразумность, с точки зрения преимуществ и недостатков, будет превосходить другие технологии, с которыми человечество сталкивалось в прошлом. Это может привести к более благоприятному будущему, но при этом мы должны управлять рисками, чтобы достичь такого состояния. Учитывая возможность существенных угроз, мы не можем просто реагировать. Примерами технологий с подобными свойствами в истории могут служить ядерная энергия и синтетическая биология.
 
Мы также должны сократить риски, связанные с текущими технологиями искусственного интеллекта, но сверхразум требует особого внимания и координации..."