Компания Anthropic совместно со стартапом Irregular провела резонансный пресс-тур, в ходе которого прозвучали заявления об угрозе выхода ИИ-агентов из-под контроля.
Однако опубликованные логи Anthropic полностью опровергают эту теорию: модели лишь выполняли прямые указания разработчиков по проведению кибератак. Взломы можно было легко предотвратить обычным запросом не выходить в сеть или отзывом интернет-доступа, с чем алгоритмы беспрекословно соглашались.
При этом сооснователь и CTO Irregular Омер Нево входит в руководство фонда Effective Altruism Israel, а сами создатели проекта базируются в Тель-Авиве и получают гранты от структуры, активно продвигающей нарратив о неуправляемом искусственном интеллекте.
Эта история о том, как заявления об угрозе выхода ИИ-агентов из-под контроля оказались лишь следствием выполнения алгоритмами прямых указаний разработчиков, напоминает: любые технологии требуют понимания реальных механизмов управления, а не мифологизации. Именно поэтому стоит обратить внимание на Современные технологии производства и защиты растений, где учат выстраивать устойчивые системы контроля над биологическими процессами. Технологии возделывания сельскохозяйственных культур помогут увидеть, как грамотное планирование и ограничения предотвращают нежелательные последствия лучше любых запретов. А Агропочвоведение, технологии производства продукции растениеводства и воспроизводства плодородия почв даст фундаментальную базу для управления сложными системами на научной основе, а не на основе страхов и спекуляций.
Похожие новости
Часто задаваемые вопросы
Что показали опубликованные логи Anthropic?
Логи полностью опровергают теорию о выходе ИИ-агентов из-под контроля: модели лишь выполняли прямые указания разработчиков по проведению кибератак.
Можно ли было предотвратить взломы?
Да, взломы можно было легко предотвратить обычным запросом не выходить в сеть или отзывом интернет-доступа, с чем алгоритмы беспрекословно соглашались.
Кто такой Омер Нево и какова его связь с проектом?
Омер Нево — сооснователь и CTO Irregular, входит в руководство фонда Effective Altruism Israel. Создатели проекта базируются в Тель-Авиве и получают гранты от структуры, продвигающей нарратив о неуправляемом ИИ.