В ЕС начинается разработка ключевых требований к ИИ-системам

роботы живут с нами
Еврокомиссия объявила о начале разработки и экспериментальной проверки систем искусственного интеллекта (ИИ), которые должны работать в соответствии с этическими принципами ЕС.

В отличие от знаменитых Трёх законов робототехники Айзека Азимова, еврокомиссия предложила семь базовых требований к ИИ-системам:

1. Соблюдение прав человека. Системы ИИ должны поддерживать установления (европейские) в области прав человека, не ограничивая самостоятельность человека.
2. Надёжность и безопасность. Ошибки работы ИИ-систем должны контролироваться человеком на всех этапах их жизненного цикла.
3. Конфиденциальность данных. Граждане должны иметь полный контроль над личными данными. Эти данные не должны использоваться для дискриминации или вреда.
4. Прозрачность. Должна быть обеспечена прозрачность (прослеживаемость) работы систем ИИ.
5. Многообразие, недискриминационный характер и добросовестность. Системы ИИ должны быть доступны и должны учитывать весь спектр человеческих способностей, навыков и требований.
6. Социальное благополучие и экологическая безопасность. Системы ИИ должны использоваться для усиления и развития «позитивных социальных изменений» и повышения устойчивости и «экологической ответственности».
7. Подконтрольность. Должны быть созданы механизмы для обеспечения ответственности и подотчетности за системы ИИ и результаты их деятельности.

Начинание безусловно интересное, однако не понятно — как будут выполняться большинство пунктов из списка. Особенно в практической реализации.
Например, требование «прозрачности» в настоящее время с трудом применимо к популярным сейчас нейросетевым моделям, которые после своего обучения, зачастую работают в виде «чёрного ящика».

Ссылки
Artificial Intelligence
Artificial intelligence: Commission takes forward its work on ethics guidelines

По теме
В ЕС роботы могут получить правовой статус
Развитие рынка робототехники
Учиться жить с роботами
Видео о том как выжить при восстании роботов
  • 0
  • 10 апреля 2019, 09:46
  • admin

Комментарии (0)

RSS свернуть / развернуть

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.