подробнее

Из каких компонентов должен состоять международный договор о безопасности ИИ

Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”

Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:

  • Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.
  • “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.
  • Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).

Целями такого договора являются:

  • Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.
  • Обеспечение доступа к благам ИИ для всех людей.

Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.

Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».

Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Заметили опечатку или ошибку? Выделите текст и нажмите Ctrl+Enter, чтобы сообщить нам о ней.

Материалы партнеров:

Читайте другие новости:

Читайте также

Характеристики новых наушников HAVIT превосходят все ожидания

Превосходят все ожидания характеристики новых наушников HAVIT H655BT. Такой вывод сделали эксперты, которыми стали 10 популярных блогеров – производитель отправил им наушники для оценки качества перед выпуском продукта на рынок….

Подробнее...

Практическое применение 3D-принтеров и четырехсторонних станков

В современном мире технологии играют ключевую роль в оптимизации производственных процессов и упрощении многих аспектов нашей повседневной жизни. Среди них особое место занимают 3D-принтеры и четырехсторонние станки, которые представляют собой…

Подробнее...

Какой принтер лучше: Canon или Brother

Выбор принтера для домашнего использования может быть довольно сложным заданием. Существует множество производителей, предлагающих различные модели принтеров, но Canon и Brother являются двумя из самых популярных и узнаваемых брендов на…

Подробнее...

В помощь человечеству: Илон Маск презентовал нового робота-помощника

Илон Маск, известный предприниматель и основатель компании Tesla, продолжает впечатлять мир своими инновациями. На этот раз он представил уникального робота, который умеет не только танцевать, но и выполнять различные домашние…

Подробнее...