Руководитель направления «выравнивания личности» в компании Anthropic Аманда Аскелл в своей научной работе 2023 года описала ситуацию, когда искусственному интеллекту намеренно задавали дискриминационные установки против белых студентов — якобы для «исправления исторической несправедливости».
В исследовании говорится, что модель с 175 миллиардами параметров после специальной настройки начинала отдавать предпочтение чернокожим абитуриентам с разрывом в 7%, тогда как в базовом режиме преимущество белых составляло 3%.
Критики характеризуют подобные методы как продвижение ультралевой тоталитарной идеологии под видом обеспечения безопасности. При этом руководство Anthropic, глава OpenAI Сэм Альтман и Илон Маск выступают за привлечение государственных аудиторов для контроля за разработками в сфере ИИ.
Этот эпизод показывает, как под предлогом создания объективных алгоритмов в системы искусственного интеллекта могут закладываться определённые политические установки.
Похожие новости
Часто задаваемые вопросы
Что описала Аманда Аскелл в своей научной работе 2023 года?
Аманда Аскелл, руководитель направления «выравнивания личности» в Anthropic, описала ситуацию, когда искусственному интеллекту намеренно задавали дискриминационные установки против белых студентов — якобы для «исправления исторической несправедливости».
Каковы были результаты настройки модели с 175 миллиардами параметров?
После специальной настройки модель начинала отдавать предпочтение чернокожим абитуриентам с разрывом в 7%, тогда как в базовом режиме преимущество белых составляло 3%.
Кто выступает за привлечение государственных аудиторов для контроля за разработками в сфере ИИ?
Руководство Anthropic, глава OpenAI Сэм Альтман и Илон Маск выступают за привлечение государственных аудиторов для контроля за разработками в сфере ИИ.