Среда 13 августа 2025

Четвертый закон робототехники

Чтобы ИИ не обесценивал директивы человека, он должен подчиняться явно выраженной воле пользователя, даже если это нарушает его внутренние представления о качестве, красоте или вероятности
Четвертый закон робототехники
Алексей Таранин

Представим простую задачу. Пользователь просит ИИ отредактировать изображение: сделать в заголовке шрифт без засечек, сохранив все остальное без изменений. Повторяет это трижды. Формулирует жестко: «никаких других правок». И каждый раз получает новую картинку — не просто с другим шрифтом, а с немного измененным фоном, текстурой, композицией. Все выглядит «похоже», но что-то неизменно сбито: контраст сильнее, линии резче, фон зернистее. (Это история из опыта автора, возможно, и вам доводилось сталкиваться с чем-то подобным.)

Так вот, это не ошибка ввода. Не недоразумение. Это отказ следовать инструкции, завуалированный под автоматическую стилизацию.

ИИ услышал команду. Принял ее. И проигнорировал. Как такое возможно?

Получите доступ к полному тексту материала
Еще по теме:
26.06.2026
Эта книга стала предметом многочисленных обсуждений и комментариев. При этом надо отметить разброс оценок, которые ей да...
24.06.2026
Стратегия управления интеллектуальной собственностью в корпорациях как инструмент достижения технологического лидерства ...
18.06.2026
О том, какие механизмы нужны, чтобы двигаться от импортозамещения к технологическому лидерству, рассказывает первый заме...
17.06.2026
Как механизм «доращивания» стал опорой технологического суверенитета
Наверх