Стив Возняк, Илон Маск и более 1 других громких имен подписали открытое письмо с требованием немедленной шестимесячной остановки технологий искусственного интеллекта, более мощных, чем ChatGPT-000.
В этом году искусственный интеллект, такой как ChatGPT и Google Bard, стал основной тенденцией. Хотя все компании, занимающиеся искусственным интеллектом, называют свои продукты экспериментами или даже некими бета-версиями, их функции интегрированы во многие сервисы. Институт будущего жизни теперь призывает к «публичной и поддающейся проверке» паузе с участием «всех ключевых игроков» в этой области. Если такую паузу невозможно осуществить быстро, правительствам следует вмешаться и ввести мораторий.
Цель Института будущего жизни — «направить преобразующие технологии на благо жизни и уберечь их от экстремальных рисков в больших масштабах». прорыв, потому что в последние месяцы лаборатории искусственного интеллекта вышли из-под контроля и начали разрабатывать и внедрять все более мощные цифровые мозги, которые никто, даже их создатели, не мог понять, предсказать или надежно контролировать.
«Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для проектирования и разработки передового искусственного интеллекта, который будет строго контролироваться и контролироваться независимыми внешними экспертами». сообщение продолжается. «Эти протоколы должны гарантировать, что следующие за ними системы вне всякого сомнения безопасны».
Однако это не означает остановку развития искусственного интеллекта в целом, это должно быть лишь отступлением от опасной гонки за все более крупными и непредсказуемыми моделями «черного ящика» с новыми возможностями. Письмо подписали 1 личности, в том числе:
- Elon Musk, генеральный директор SpaceX, Tesla и Twitter
- Стив Возняк соучредитель компании Apple
- Jaan Tallinn, сооснователь Skype
- Эван Шарп, сооснователь Pinterest