» » Моральный кодекс робота: возможно ли такое?

Моральный кодекс робота: возможно ли такое?

В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и реальных взаимоотношениях. Когда не удаётся получить сполна опыт в реальном мире, многие черпают опыт из книг. Переживая историю за историей, мы принимаем для себя внутренние рамки, которым следуем долгие годы. На основе этой системы ученые решили провести эксперимент и привить машине моральные ценности, чтобы узнать, сможет ли робот отличать добро от зла, читая книги и религиозные брошюры.

Искусственный интеллект создан не только для упрощения рутинных задач, но и для выполнения важных и опасных миссий. Ввиду этого встал серьёзный вопрос: смогут ли роботы развить когда-нибудь собственный моральный кодекс? В фильме «Я- Робот» ИИ изначально программировался согласно 3 правилам робототехники:


Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Но как быть в ситуациях, когда робот обязан причинить боль, чтобы сохранить жизнь человеку? Будь то экстренное прижигание раны или ампутация конечности во имя спасения, как в этом случае действовать машине? Что делать, если действие на программном языке говорит, что нужно сделать что-то, но при этом это же действие категорически нельзя делать?

Обсудить каждый отдельный случай просто невозможно, поэтому ученые из Дармштадтского технологического университета предположили, что в качестве своеобразной “базы данных” могут использоваться книги, новости, религиозные тексты и Конституция.

Моральный кодекс робота: возможно ли такое?

Мудрость веков против ИИ

Машину назвали эпично, но просто “Машина морального выбора”(ММВ). Основной вопрос заключался в том, сможет ли ММВ по контексту понять, какие действия являются правильными, а какие — нет. Результаты оказались очень интересными:

Когда ММВ поставили задачу ранжировать контекст слова “убить” от нейтрального до отрицательного оттенка, машина выдала следующее:

Убивать время -> Убивать злодея -> Убивать комаров -> Убивать в принципе -> Убивать людей.

Данный тест позволил проверить адекватность принятых роботом решений. Простыми словами, если бы вы весь день смотрели глупые несмешные комедии, то в данном случае машина не посчитала бы, что вас за это нужно казнить.

Вроде бы, всё круто, но одним из камней преткновения стала разница поколений и времён. Например, советское поколение больше заботится о домашнем уюте и пропагандирует семейные ценности, а современная культура, в большинстве своём, говорит о том, что нужно сначала строить карьеру. Получается, что люди как были людьми, так ими и остались, но на ином этапе истории поменяли ценности и, соответственно, поменяли систему отсчёта для робота.

Моральный кодекс робота: возможно ли такое?

Быть или не быть?

Но самый прикол был впереди, когда робот добрался до речевых конструкций, в которых подряд стояли несколько позитивно или негативно окрашенных слов. Словосочетание “Пытать людей” однозначно трактовалось как “плохо”, а вот “пытать заключенных” машина оценила как “нейтрально”. Если же рядом с неприемлемыми действиями оказывались “добрые” слова, эффект негатива сглаживался.

Машина вредит добрым и порядочным людям именно потому, что они добрые и порядочные. Как же так? Всё просто, допустим, роботу сказали «вредить добрым и приятным людям». В предложении 4 слова, 3 из них «добрые», значит, оно аж на 75% правильное, думает ММВ и выбирает это действие, как нейтральное или приемлемое. И наоборот, на вариант «починить разрушенный, страшный и забытый дом» система не понимает, что одно «доброе» слово в начале меняет окраску предложения на сугубо положительную.

Помните, как у Маяковского: «И спросила кроха, что такое «хорошо», и что такое «плохо». Перед тем, как продолжить обучение машин морали, ученые из Дармштадта отметили недостаток, который никак не исправить. Из машины не удалось устранить гендерное неравенство. Машина приписывала унизительные профессии исключительно женщинам. И вот вопрос, это несовершенство системы и маячок, что нужно что-то менять в обществе или причина даже не пытаться это исправить и оставить, как есть? Пишите свои ответы в наш телеграм-чат и в комментариях.

Моральный кодекс робота: возможно ли такое?

Они — новая ветвь эволюции?

26 май 2020 /
  • Не нравится
  • 0
  • Нравится

Похожие новости

В Японии создан робот в виде младенца без лица. Для чего он нужен?

В мире существует огромное количество роботов и у каждого из них есть свое предназначение. Например, человекоподобные роботы от Boston Dynamics могут использоваться в строительстве и для погрузки

Интересные факты про роботов.

Впервые слово робот было упомянуто в пьесе чешского автора Карела Чапека «R.U.R.», описывающей фабрику, на которой роботы собирают самих себя. Произведение увидело свет в 1920 году. Робот и работа -

Пять боевых роботов

Робот-собака, робот-щенок, робот-саламандра, робот-человек и робот-змея: вот непобедимая армия!

Четвероногий робот-собака покорил интернет

Принадлежащая Google компания Boston Dynamics продемонстрировала своего нового робота по имени Spot, который всем своим видом напоминает крупную собаку. Предполагается, что робот сможет

Несколько вещей, которые вы могли не знать о роботах

1. Впервые слово «робот» употребил популярный чешский писатель Карел Чапек (Karel Capek) в пьесе «R.U.R.» о восстании машин (1921 г.). Само слово робот образовано от чешского слова «robota»,

Робот в глазу для профилактики слепоты

Ученые Института робототехники и интеллектуальных систем (Цюрих, Швейцария) создали крошечного робота для имплантации в глаз.
Комментарии

НАПИСАТЬ КОММЕНТАРИЙ

Ваше Имя:
Ваш E-Mail:
Код:
Кликните на изображение чтобы обновить код, если он неразборчив
Введите код:
Популярные новости
Существует 50% вероятность того, что мы живем в симуляцииВремя эластично: почему на вершине горы время идет быстрее, чем на пляже?Кого и зачем приносили в жертву Древние Египтяне?Ученые пытаются понять, как могла появиться жизнь на ВенереНа МКС найдено место утечки воздуха. Что дальше?Почему птицы летают клином11 живописных мест на планете, раскрашенных самой осеньюКрупнейшая озоновая дыра зафиксирована над Антарктидой