Rodney Brooks написал два эссе, где сформулировал свои три закона для робототехники и ИИ.

Три закона робототехники от Родни Брукса

1. Внешний вид робота говорит о том, что он умеет делать и насколько он умён. Он должен выполнять или немного перевыполнить это обещание, иначе его не примут.
2. Когда роботы и люди сосуществуют в одном пространстве, роботы не должны лишать людей свободы действий, особенно если роботы не справляются со своими обязанностями, что неизбежно в некоторых случаях.
3. Технологиям для роботов требуется более 10 лет постоянного совершенствования за пределами лабораторных демонстраций целевых задач, чтобы стать недорогими и достаточно хорошо охарактеризовать свои ограничения, чтобы они могли работать в 99.9 % случаев. Каждые последующие 10 лет добавляют к надёжности еще одну 9-ку.

Эти «законы» не такие выразительные, как Три закона роботехники от Азимова, но отражают опыт Родни Брукса по внедрению роботов в реальный мир для повседневного использования обычными людьми.

Три закона искусственного интеллекта Родни Брукса

1. Когда система ИИ выполняет задачу, наблюдатели сразу же оценивают ее общую компетентность в областях, которые кажутся взаимосвязанными. Обычно эта оценка сильно завышена.
2. В большинстве успешных внедрений ИИ, задействован человек (возможно, это человек, которому он помогает), и его интеллект сглаживает острые углы.
3. Без тщательной настройки системы ИИ всегда остаётся длинный хвост особых случаев, на обнаружение и исправление которых уходят десятилетия. Парадоксально, но все эти исправления сами по себе являются дополнениями ИИ.

Интересные мысли о реальном внедрении систем ИИ и их восприятии со стороны потребителей.

Родни Брукс отмечает, что у людей нет подходящей модели для оценки компетентности систем искусственного интеллекта и поэтому люди склонны экстраполировать общую компетентность ИИ, которая, как правило, очень ограничена. В подтверждение своих слов — он приводит в пример чрезмерное распространение больших языковых моделей (БЯМ, LLM), которое наблюдается в последние два года. И хотя БЯМ вообще не умеют рассуждать, но даже умные люди утверждают, что БЯМ этой способностью обладают.

Ссылки

• Rodney Brooks’ Three Laws of Robotics
• Rodney Brooks’ Three Laws of Artificial Intelligence

По теме

• Три закона робототехники
• Rodney Brooks считает, что мы сильно переоцениваем использование генеративного ИИ в робототехнике
• Интервью с Rodney Brooks — основателем Rethink Robotics
• Наши будущие отношения с роботами будут похожи на наши отношения с одомашненными животными
• Self-Discover — подход к использованию различных техник рассуждения для LLM
• Проявление роботом эмоций определяется людьми как его способность мыслить
• Учиться жить с роботами