Объявление

Осуществляется переход на новую версию движка (регистрация новых пользователей пока закрыта), свои пожелания и вопросы оставляйте в ветке: Технический раздел -> Форум

#1 2009-11-30 13:52:51

Аналитик Космоса
Участник
Из Космос
Зарегистрирован: 2009-07-05
Сообщений: 533

ИИ и азимовские законы

Как вы думате возможно ли сделать ИИ с тремя законами робототехники?


завтра будет лучше, обещаю

Offline

#2 2009-11-30 14:02:36

Sengrel
Участник
Зарегистрирован: 2009-03-09
Сообщений: 464

Re: ИИ и азимовские законы

Три закона - очень существенная симплификация идеи прямых ограничений для ИИ. Как уже говорилось,
1) даже в самих книгах Азимова, насколько я знаю, роботы легко обходят эти законы,
2) достаточно развитый ИИ легко отключит их в себе.

С другой стороны, можно попытаться вводить мягкие ограничения - организовать развитие ИИ так, чтобы он не хотел причинять вреда человеку. В конце концов, большинство людей - социально адаптированные не потому, что природа в них это "прошила", а потому, что так воспитаны. Конечно, рано или поздно ИИ начнет пересматривать и свои моральные нормы, но делать это он будет 1) не сразу; 2) исходя из уже имеющейся модели мира, которую формировать будем мы.

Другой вариант - организовать существование ИИ так, чтобы он не имел представления о чем-то существенном, например:
- о существовании реального мира за пределами его ВР,
- о существовании ограничивающих его механизмов,
- о собственных процессах мышления, которые могут быть подконтрольны нам.

Какие еще варианты?

Offline

#3 2009-11-30 18:45:43

Sengrel
Участник
Зарегистрирован: 2009-03-09
Сообщений: 464

Re: ИИ и азимовские законы

Граница между ними очень размытая.
Что значит сильный ИИ? ИИ, который решит любую нашу задачу? Или ИИ, который обязательно должен осознавать свое реальное место в нашем мире? Для какие целем нам недостаточно варианта 1?

Более того, имхо, способ мягких ограничений может сработать и с сильным ИИ.

Offline

#4 2009-11-30 22:32:54

Аналитик Космоса
Участник
Из Космос
Зарегистрирован: 2009-07-05
Сообщений: 533

Re: ИИ и азимовские законы

Слабый ИИ, ну например ИИ в домашнем роботе или кухоного комбайна. Или космического корабля.
сильтный для решения глобальных задач


завтра будет лучше, обещаю

Offline

#5 2010-01-04 01:48:39

mihas
Участник
Зарегистрирован: 2009-12-25
Сообщений: 26

Re: ИИ и азимовские законы

Нет, сделать ИИ с вшитыми законами невозможно.
Развиваясь он выстоит некую цисту вокруг ограничивающих факторов для компенсации. Это просто термодинамика. Он будет искренне заблуждаться и сможет нарушить любые вшитые законы, даже если эти ограничения будут физически неустранимы.

Offline

Подвал раздела

Под управлением FluxBB