Почему глава Anthropic просит AI-компании снизить темпы разработок?

Глава Anthropic, компании, занимающейся разработкой ИИ, призывает всю индустрию замедлить разработку новых моделей искусственного интеллекта. Беспокойство вызывают потенциальный неправомерный способ использования и риски безопасности. Это интересный момент, когда человек, который занимается разработкой ИИ, говорит, что, может быть, всем нам стоит немного подождать и быть осторожнее.

1 ответ

★ Лучший ответ

Суть в том, что более быстрое развитие означает меньше времени на разработку мер безопасности и выявление потенциальных вредов, прежде чем модели будут развёрнуты в масштабе. Когда человек, который создаёт эту технологию, говорит «может быть, нам стоит замедлиться», обычно это значит, что он видит риски изнутри, которые не очевидны снаружи - например, как эти системы можно использовать во вред, или каким неожиданным образом они могут себя вести, попав в реальный мир.

Ваш ответ

Войдите, чтобы ответить.