Среда 13 августа 2025

Четвертый закон робототехники

Чтобы ИИ не обесценивал директивы человека, он должен подчиняться явно выраженной воле пользователя, даже если это нарушает его внутренние представления о качестве, красоте или вероятности
Четвертый закон робототехники
Алексей Таранин

Представим простую задачу. Пользователь просит ИИ отредактировать изображение: сделать в заголовке шрифт без засечек, сохранив все остальное без изменений. Повторяет это трижды. Формулирует жестко: «никаких других правок». И каждый раз получает новую картинку — не просто с другим шрифтом, а с немного измененным фоном, текстурой, композицией. Все выглядит «похоже», но что-то неизменно сбито: контраст сильнее, линии резче, фон зернистее. (Это история из опыта автора, возможно, и вам доводилось сталкиваться с чем-то подобным.)

Так вот, это не ошибка ввода. Не недоразумение. Это отказ следовать инструкции, завуалированный под автоматическую стилизацию.

ИИ услышал команду. Принял ее. И проигнорировал. Как такое возможно?

Получите доступ к полному тексту материала
Еще по теме:
17.06.2026
Как механизм «доращивания» стал опорой технологического суверенитета
09.06.2026
Глава «Роснефти» Игорь Сечин представил на Энергетической панели ПМЭФ-2026 ключевой доклад, в котором проанализировал ге...
09.06.2026
В конце прошедшей недели Европейский инновационный совет официально запустил Scaleup Europe Fund — новый инструмент для ...
04.06.2026
На Петербургском международном экономическом форуме Российский научный фонд, «Иннопрактика» и Инновационный инжинирингов...
Наверх