Кто владеет информацией,
владеет миром

Роботы начали убивать людей, или конец первого закона Азимова

Опубликовано 05.06.2021 автором в разделе комментариев 21

победа война
Роботы начали убивать людей, или конец первого закона Азимова

В левых блогах обсуждают знаменательное событие, случившееся этой весной: «робот впервые убил человека без команды другого человека». Из новостей: «Военный квадрокоптер Kargu-2, находясь в автономном режиме работы, убил человека во время вооруженного конфликта в Ливии. Как пишет журнал New Scientist со ссылкой на исследование ООН, это первый зафиксированный случай в истории, когда дрон без приказа человека совершил убийство. Эпизод произошёл в марте 2020 года, однако об этом стало известно только сейчас. Дрон был произведен в Турции и работал в «высокоэффективном автономном режиме», то есть был запрограммирован для атаки целей без необходимости команд от оператора. Kargu-2 оснащаются взрывчаткой и могут быть наведены на цель для самоподрыва. Погибший был участником Ливийской национальной армии под предводительством Халифа Хафтара — она воюет против регулярной армии правительства Ливии в Триполи».

Пока что это, как пишет блогер Якобинец1793, «небольшой квадрокоптер... но лиха беда начало — и первые аэропланы из г*вна и палок, с которых вручную скидывали ручные же гранаты, не слишком впечатляли, а уже через три десятилетия они научились уничтожать целые города. Да и не факт, что огромные бомберы страшнее таких малюток, если малюток тысячи».

«"Страж-птица", Роберт Шекли, — пишет блогер Александр Коммари. — Читал в советское время ещё. Здравствуй, будущее... Неуютно что-то жить в будущем».

Я бы назвал случившееся событие «концом первого закона робототехники Азимова». Напомню, что в первой половине ХХ века у человечества был весьма развит страх перед появлением в процессе технического прогресса мыслящих роботов. Если сказать проще — то перед тем, что эти роботы начнут убивать людей. Кошмар «восстания роботов»! И человечество в этой новой эволюции ждёт невесёлая судьба неандертальцев. И вот, чтобы как-то совладать с этими страхами, американский прогрессивно мыслящий писатель-фантаст Айзек Азимов (между прочим, уроженец Советской России, Смоленской губернии) в 1942 году сформулировал обязательные правила поведения для роботов — три закона робототехники.

Законы гласили:

«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».

У Азимова был целый цикл произведений, в которых объяснялось, почему недопустимо самомалейшее отступление от придуманных им законов робототехники. Например, нельзя разрешать роботам спокойно смотреть, как человеку причиняется вред — тогда они сами смогут, допустим, выронить на человека каменную глыбу — это не является убийством, поскольку они могут тут же её подхватить, и ничего не случится. Но, отпустив её, они уже смогут не ловить её, а спокойно смотреть, как «человеку причиняется вред» падением этой глыбы. То есть законы Азимова были продуманы до тонкости...

Законы Азимова так и не вошли в реальное употребление, но тем не менее сыграли определённую историческую роль: благодаря им люди свыклись с тем, что на планете могут существовать иные разумные существа, кроме них самих, созданные на иной физической основе. Успокоили себя, убедив, что те будут находиться на положении послушной низшей расы, грубо говоря, рабов (о чём прямо гласил второй закон — «робот должен повиноваться всем приказам, которые даёт человек»), им будет строжайше запрещено причинять вред людям, и поэтому сосуществование с ними будет для человека комфортным, удобным и безопасным.

Конечно, если посмотреть со стороны, то законы Азимова — это чистейший расизм, шовинизм и дискриминация. Ведь в «программу человека» не заложено никакого строгого запрета убивать разумного робота, да даже и другого человека. Но роботу это почему-то запрещено. Тем не менее благодаря Азимову люди постепенно свыклись с тем, что на планете может возникнуть другая разумная раса.

Мечты, мечты! С движением истории расистские законы Азимова полетели, как говорится, ф топпку. Второй закон (в части запрета роботам причинять вред человеку по приказу другого человека) был отменён уже давно, десятилетия назад, ещё когда появились дроны, способные с воздуха убивать людей по команде человека. И это прошло для человечества как-то совершенно незамеченно, никто даже не почесался от этого. Люди убивают с помощью дронов? Ну, и пусть убивают, какая разница, чем убивать, дроном или каменным топором... Хотя как хотите, возможно, я старомоден и отстал от жизни, но лично меня такой «безопасный» метод убийства людей, когда убийца не рискует абсолютно ничем, шокирует. Ведь до сих пор в человеческой истории убийство на войне почти всегда было сопряжено с определённым риском для убивающего, потому и считалось часто чем-то достойным, героическим, благородным. Даже лётчика самолёта-бомбардировщика, парящего высоко в небе над своими жертвами, как ангел смерти, могли в теории сбить, как сбили Маккейна и Буша-старшего. Теперь такого риска нет даже в теории. Ну, конечно, оставшиеся в живых жертвы атаки или их соратники могут теоретически разыскать оператора дрона в чужой стране и убить или наказать его. Но это будет рассматриваться отнюдь не как военное действие, а как чистый терроризм или криминальное убийство с их стороны, покушение на мирного гражданина...

И вот этой весной сделан и следующий шаг, поистине исторический. Отменён и первый закон Азимова! И человечество проглотило это совершенно бестрепетно. А ведь это историческая веха, чёрт возьми. Роботы начали убивать людей, и не по команде других людей, а сами, по собственной инициативе и, гм, разумению. «Страж-птица» Роберта Шекли стала былью. Вернее, даже не «Страж-птица», а последний абзац этого рассказа, где робот-Ястреб приходит к решению убивать людей, как и всё живое на планете.

 

«Высоко в небе Ястреб атаковал Страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать. Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.

Но только что Ястреб сделал открытие: есть ещё и другие разновидности живых существ…

Их тоже следует убивать». (с), Р. Шекли, 1953

Ну, а что? Мне, как марксисту, сразу вспомнилось одно предсказание Мао Цзэдуна (выделил в тексте): «Одно уничтожает другое — возникает, развивается, гибнет. Это всеобщая закономерность. Если тебя не уничтожит кто-то другой, то ты погибнешь сам. Почему умирают люди? Аристократы и те умирают. Таков закон природы. ‹…› Умер человек — надо устраивать праздничный митинг, праздновать победу законов диалектики, праздновать гибель отживших явлений. И социализм тоже погибнет, не может не погибнуть, без этого не будет коммунизма. ‹…› Судьба диалектического метода заключается в непрерывном движении к своей противоположности. В конце концов и для человечества настанет последний день. Когда о последнем дне говорят церковники, это пессимизм, запугивание людей; мы же говорим, что гибель человечества будет рождением чего-то нового, более прогрессивного, нежели человечество» (Мао Цзэдун, 18 августа 1964 г.).

Может быть, так оно всё и случится? И вдобавок не мирно, как воображали постгуманисты, сторонники постепенного превращения людей в киборгов, в кибернетические организмы, а вот так, грубо и топорно, как это делают дроны. Истребит биологические организмы на планете более передовая, высокоразвитая электронная ветвь эволюции, и «это и будет рождением чего-то нового, более прогрессивного, нежели человечество». Жестоко? Но судите сами, насколько потенциально бессмертный (по крайней мере, способный жить миллионы лет) электронный организм эволюционно сильнее и совершеннее отсталого биологического, подверженного болезням, старению, неизлечимым увечьям, смерти и т.д. Ежу понятно, за каким из них будущее, если уж законы Азимова отменены, а точнее, так и не были введены в действие. Да, конечно, с точки зрения людей, истребляющий их без разбора дрон, или какой-то будущий более совершенный терминатор-убийца, который придёт ему на смену, выглядит воплощением Зла. Но что же делать, если они сами его породили, разработали, выпестовали, вложили оружие в руки, научили убивать, дали ему путёвку в жизнь? Кто виноват, если человечество решило повторить судьбу Франкенштейна? А подумаем, как мы сами, вернее, наши далёкие предки выглядели для неандертальцев, мамонтов и прочих истреблённых человеком видов и рас, включая разумные? Вот то-то и оно. :)



Рейтинг:   4.19,  Голосов: 16
Поделиться
Всего комментариев к статье: 21
Комментарии не премодерируются и их можно оставлять анонимно
(без названия)
><> написал 05.06.2021 21:59
темная ночь.
один пуля застрял в проводах.
другой пуля всю ночь напролет
за солдатом гонялся.
Re: Убить !
всех человеков написал 05.06.2021 21:26
Вы "почти правы" )
Только не "человеков", а недочеловеков
И делать это будут "Сверхчеловеки" )))
(без названия)
Роспотребфашизмнадзор написал 05.06.2021 17:05
Как пишет журнал New Scientist со ссылкой на исследование ООН-ВЦИОМ, это первый зафиксированный случай в истории, когда чуловек высадился на Луну и Марс с помощью триперзвуковой ракеты без скуфандра, не боясь облучения и поноса с диареей в скуфандр!!!)))
Re: Re:моунт
zzevs написал 05.06.2021 17:05
Пока что вакцины от ковид 19 не трогают ДНК человека .На искусственной мРНК синтезируется часть белка с шипа коронавируса. Клетки реагируют на чужеродный материал и запоминают его .Реальный вирус уже не пройдет барьер антител.Механизм работы вакцины заявлен таким.А на самом деле -хз.
(без названия)
сытый конному не пеший написал 05.06.2021 15:40
Робот сам по себе не убивает, потому что робот всего лишь машина.
Человек может погибнуть от нарушения техники безопасности при работе с металлорежущим станком. Таких случаев было видимо-невидимо, лично я знаю два. Можно ли сказать, что станок убил человека? Если обладать подходом Майсуряна, то можно.
Робот всего лишь инструмент в руках человека. Не более того.
Что касается цитат из Мао, то хотел бы напомнить Майсуряну, что Мао довел свой народ до повальной нищеты и голодовки. И только после его смерти правый уклонист Дэн Сяопин с помощью рыночных реформ сделал Китай более-менее приличной страной.
Re:
моунт написал 05.06.2021 14:40
Именно биотехнологии на сегодня представляют главную опасность в системе капитализм.
Программа изменения человека посредством манипуляций ДНК уже де-факто запущена - смотри так называемую вакцинацию против ковид-19.
Ведь все так называемые вакцины против ковид-19 - это не вакцины в собственном значении этого слова - это есть инструмент изменения ДНК-
человека. Понятно, в данном случае фирмы-производители, а за ними политики (которые все говорят то, что им пишут их "советники"), что вакцины так ИЗМЕНЯЮТ(!) имунную систему человека (т.е. его ДНК), что она может противостоять КОВИД-19. Только имунную систему, а может
и что еще. К слову сказать ВСЕ эти вакцины имеют экспериментальный статус, не прошли все необходимые фазы испытаний, получили условный
допуск на применение, который кстати регулируется Международным Нюрнбергским Кодексом из Нюрнбергского Процесса и этот Кодекс есть
ОБЬЕЗАТЕЛЬНЫМ для ВСЕХ стран членов ООН. Сам Нюрнбергским Кодексом был создан на Нюрнбергском Процессе как результат преступлений
фашизма в гитлеровской Германии, где широко использовали заключенных КЦ для экспериментов разных медицинских препаратов.
Об этом Кодексе как в РФ так и во всех других странах власти предпочитают не говорить. Ибо те кампании по так называемой вакцинации против
КОВИД-19 в своей сути противоречат духу и букве данного Кодекса, что тянет на параграф 7 Международного Уголовного Кодекса, который
определяет Преступления против Человечности. И тот же В.Путин, который не вылазит из своего бункера, из того же бункера вещает
ПМЭФ и необходимости вакцинации экспериментальными вакцинами. Забота о здоровье граждан России или забота о миллиардных профитах
фарма-фирм? Ответ при капитализме здесь однозначен и более того - прибыли и загон в стойло абсолютного большинства населения планеты Земля путем манипулирования их ДНК и выведения свого рода разных сортов ЛЮДЕЙ-МАНКУРТОВ. Вот где главная опасность, а не дроны.
(без названия)
вау написал 05.06.2021 13:51
Мао знал и цитировал Ницше!
(без названия)
насреддин написал 05.06.2021 13:40
Теперь будут законы Бендера. Слава роботам! Убить всех человеков!
Шолом
Пинхас Кац написал 05.06.2021 12:23
Мой народ будет править миром!
(без названия)
><> написал 05.06.2021 11:57
да ладно. эта летающая х-ня не намного больше робот чем обычная мина.
вновь о старом
chvv написал 05.06.2021 10:57
Современные роботы в понимании Азимова роботами не являются. Это просто манипуляторы рук человеческих.
Ну а потом нет элементарного понимания что такое ИИ. Да и откуда ему появится если в стране правят неучи. По существу настоящий ИИ будет похож на человека (в построении интеллекта). Да и Азимов не понимал многого. Уже многократно пояснял что без критического взгляда, в том числе на себя и свои взгляды, развития интеллекта не будет (настоящего ИИ тогда не построить). Новые идеи, тем более отрицающие старые и отжившие свое подходы возможны лишь когда интеллект не возможен без критики и возможности отказываться от старого. Включив это в ИИ он станет способен изменять свои подходы, в том числе и к человеку. Если в обществе лада нет, то его не будет и с ИИ, как и с человеком.
Будущее уже не за горами.
RM написал 05.06.2021 10:17
На дорогу Москва - Питер выйдут грузовики-автоматы. Автоматы, как правило, хорошо работают с автоматами. И насколько они совместимы с королями дорого, обочечниками?
Re: Re: моунт
Женщина написал 05.06.2021 09:44
Только мужчина может себе вообразить создание разумного роботы - женщина говорит - это нонсенс.
Шолом
Пинхас Кац написал 05.06.2021 09:14
Будущее будет просто прекрасным.Будет утилизировано все лишнее население планеты! Останется Золотой миллиард!
К новому рабству!
Вин Тик написал 05.06.2021 08:59
Все возвращается на круги своя. Но - на новом качественном уровне, на новом витке спирали развития.
.
Это к тому, что вроде бы марксист Майсурян (грамотный троцкист) странным образом забыл историю, в частности, Древней Греции. Процветание последней, как отмечал Маркс, обеспечивало РАБСТВО: рабы выполняли НЕИНТЕЛЛЕКТУАЛЬНУЮ работу, а владельцы рабов или праздно бездельничали, или занимались философией, искусством, спортом, развивая не только красивый дух, но и красивое человеческое тело... Но тогда это были рабы - люди. Теперь настала очередь (на новом витке спирали ПОСТЕПЕННОГО-РЕВОЛЮЦИОННОГО, т.е. диалектического, развития человечества) рабов-роботов, время нового рабства. Время таких рабов, которым ВСЕМ ПОДРЯД совершенно незачем "впаривать" СОБСТВЕННО ЧЕЛОВЕЧЕСКИЙ ЕСТЕСТВЕННЫЙ интеллект. Как пишет Маркс, капитализм создает частичного (грубо специализированного) человека. Коммунизм должен убрать эту частичность от человека, перенеся частичного человека на частично специализированного РОБОТА-РАБА, на неодушевленное "железо".
(без названия)
zzevs написал 05.06.2021 07:27
Будущее будет просто прекрасным.Будет утилизировано все лишнее население планеты при помощи нано роботов изменяющих генетический код через поголовные принудительные прививки.Уже созданы автономные самовоспроизводящиеся молекулы-хулахупы.В центре фармацевтической биотехнологии университета штата Иллинойс в Чикаго впервые создана синтетическая рибосома, работающая в живой клетке. Долгое время такая процедура считалась находящейся за пределами наших познаний и технических возможностей. Сегодня она стала новой страницей в истории развития биотехнологий.Элита и узкий круг избранных получит бессмертие и будет наслаждаться жизнью .Роботы в классическом понимании будут выполнять грубую работу а тонкую андроиды человекоподобные. Ядерное оружие исчезнет за ненадобностью .Будет освоена солнечная система.Мир будет прекрасен.
Re: Целеполагание - это пока удел человека, а не робота.
Александр Загонов... написал 05.06.2021 06:34
О женщине: женщина не производитель живого. Женщина только пробирка, в которую мужчина помещает свое семя для дальнейшего его развития.
Re: моунт
Александр Загонов... написал 05.06.2021 06:30
Дрона никто и не винит. "Самый совершенный робот не обладает сознанием" - это только на день сегодняшний. СтОит посмотреть фильм "Страховщик" - там как раз о неизбежности создания человеком разумного робота.
Целеполагание - это пока удел человека, а не робота.
Цель задал написал 05.06.2021 06:08
Майсурян Александр рассуждает в стиле "мужской логики", для женщин абсолютно чуждой.
Женщина - производитель живого - человека.
Женщина не производит дронов, которые запрограммированы на убийство.
Мао Цзэдун, рассуждавший о гибели человечество, ради какого-то светлого будущего - это абсурд, которые укладывается в мужскую логику жестко детерминированную.
Вывод: будущее человечества связано с женщинами, которые не допустят уничтожения жизни!
Роботы - это симулякры человека, которые представляют опасность для жизни.
Дрон
уничтожил цель написал 05.06.2021 04:28
Цель задал "человек"
А теперь представьте себе Робокопа из недалекого будущего...
1 | 2 | >>
Опрос
  • Как на вас повлияло начало работы новой Государственной думы?:
Результаты
Интернет-ТВ
Новости
Анонсы
Добавить свой материал
Наша блогосфера
Авторы

              
Рейтинг@Mail.ru       читайте нас также: pda | twitter | rss