На сайте компании Anthropic, разрабатывающей ИИ-модель Claude, опубликована статья с призывом замедлить или приостановить развитие ИИ.
В статье говорится, что системы ИИ приблизились к этапу рекурсивного самосовершенствования — способности развиваться без участия человека.
Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают.
Статья призывает лидеров в области ИИ затормозить развитие технологии, чтобы дать обществу время для адаптации.
Однако оговаривается, что для этого необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей.
34 минуты назад @ meduza.io
infomate






