Роботов поставили в ситуацию морального выбора

Известный писатель-футуролог Айзек Азимов придумал легендарные три закона робототехники, первый из которых звучит так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». На нем держались в произведениях писателей остальные два закона и вся робототехника в целом. Поразительно то, что многие из современных ученых относятся к этому правилу весьма серьезно, считая, что оно справедливо и для реального мира.

Британский робототехник Алан Винфилд решил проверить этот закон на практике. На наклонную поверхность был помещен миниатюрный робот, а также фигурка, которую робот воспринимал, как человека в беде. Смоделированная ситуация была такова, что робот должен был не допустит падения (смерти) фигурки (человека) с поверхности. И поначалу робот прекрасно справлялся с этой задачей. Каждый раз машина исправно спасала попавшего в беду.

Затем робототехник заставил своего робота спасать сразу две фигурки. Такое положение дел заставило робота колебаться. Иррациональная программа всегда направляла машину на спасение того что ближе, и если первого удавалось спасти достаточно быстро, робот мчался на помощь второй фигурке. Чаще всего спасти обе не удавалось, но что интереснее, пускай и весьма условная интерпретация «первого закона», вызвала в машине проблему «морального выбора». В 14 из 33 случаев, даже при нахождении к одной из фигурок ближе, робот просто стоял, подергиваясь и не решаясь броситься к одной из них, в результате чего гибли обе.

Подводя результаты своей работы, Алан Винфилд заявил, что разработка «этики» машин, может оказаться куда более сложной проблемой, чем ученые полагали ранее. Роботы, что не будут уметь оценивать ситуацию оперативно, а также мыслить сугубо иррационально, не смогут действовать достаточно эффективно, чтобы предотвратить несчастье. Тем не менее, Алан Винфилд верит, что создание мораль для роботов более чем возможно и в идеале, она мало чем должна отличатся от человеческой, с поправкой на легендарный «Первый закон робототехники».



Понравилась эта новость? Тогда жми:


Смотрите ещё




Обсудить у себя 0
Комментарии (0)
Чтобы комментировать надо зарегистрироваться или если вы уже регистрировались войти в свой аккаунт.

Войти через социальные сети:

Анатолий
Анатолий
сейчас на сайте
22 года (01.10.1995)
Читателей: 19 Опыт: 558.359 Карма: -2.00041
все 0 Мои друзья