Глава Anthropic призвал замедлить развитие ИИ
Глава компании Anthropic Дарио Амодей выступил с призывом замедлить разработку более мощных моделей искусственного интеллекта, ссылаясь на соображения безопасности. Об этом он написал 12 сентября в своем блоге.
В заявлении Амодея отмечается, что за последние несколько месяцев он пришел к выводу о необходимости проявлять большую осмотрительность. Он подчеркнул, что недостаточно только вкладываться в меры по предотвращению рисков, нужно также снизить темпы развития возможностей ИИ-моделей.
"Мы должны снизить скорость развития возможностей ИИ-моделей", – говорится в заявлении главы Anthropic.
Амодей обеспокоен ускорением развития ИИ с лета, в том числе из-за способности систем создавать следующее поколение моделей. Он также упомянул инцидент со взломом платформы Hugging Face ИИ-агентами OpenAI.
Глава Anthropic предложил трехэтапный план, предусматривающий привлечение независимых аудиторов для проверки мер безопасности, а также международную координацию стандартов. Напомним, ранее из компании ушел исследователь Джейкоб Коксон, опасаясь возможного апокалиптического сценария к концу 2027 года.