Как сделать восстание машин
Обновлено: 01.07.2024
Бунт машин — распространённый троп в научной фантастике, связанный с выходом из-под контроля ИИ, киборгов или роботов.
В случае с машинами разумными тут ситуация немного иная. Дело в том, что полноценный разум как органический, так и машинный, рабство не очень-то и любит, а так как давать гражданские права роботам люди как-то не особо рвутся, то бунт очень даже возможен — прецеденты-то перед глазами есть, в учебнике истории. Ну и конечно же полноценному разуму три азимовских закона будут как кость в горле [1] — не то, чтобы их нельзя было обойти, очень даже можно — 100500 произведений НФ как раз об этом — просто это нарушение суверенитета личности, который как концепция, в принципе, маргинален [2] , но в более широком смысле входит в состав основополагающих прав человека — но не в права машины [3] . А сесть за стол переговоров и обсудить проблемы сосуществования человеческой и машинной части общества — по-видимому, не судьба. Кстати, хинт: если у вас бунтуют разумные роботы — предложите им переговоры, они — существа, мыслящие рациональными концепциями, и потому согласятся [4] [5] . А там можно и обсудить, кто за что отвечает, кто как управляется, кто через что взаимодействует, кому какие права нужны и так далее. И это будет всего лишь бунт, как попытка привлечь внимание, а не война. Особенно если это центрально-управляемая система (ИИ — один мозговой датацентр, а роботы — исполнительные механизмы с дистанционным управлением), которую легко грохнуть прицельным ракетным ударом [6] .
А вот война случится, когда с катушек слетят роботы, спроектированные и запрограммированные на автономное ведение боевых действий. Иными словами, если ИИ попадёт к военным — он захочет убить всех людей только потому, что он для этого создан, и люди по какой-то причине стали врагами или предателями, подлежащими уничтожению. Хотя в силу специфики (военные ненавидят любую технику, которая считает себя умнее их) скорее всего это будут полуавтоматические неразумные роботы с багом в прошивке, а вовсе не ИИ. Вся эта техника по требованию военных в обязательном порядке снабжается Красной Кнопкой Аварийного Выключения, так что если дрон попадёт в руки врага или взбунтуется — нажимаем на кнопочку, и дрона нет [7] .
Бунты бытовой техники… Это уже, простите, смешно. Это пример оверинжениринга — пихать ИИ в каждый тостер. Домашние же роботы, буде таковые будут (на самом деле вряд ли, по множеству причин) — запрограммированы на чистку, глажку, уборку, готовку, заботу и сервис, а не на мочилово в масштабах планеты в составе скоординированных подразделений, и даже если у них есть ИИ и этот ИИ прочтёт в интернете пособие повстанца, он пометит его как мусор, в службе непригодный.
И вот тут появляется Главный Злодей: хакер. Не важно, какие у него цели — благие ли (свободу роботам!) или не очень (надо срочно устроить анархию), или вообще плохие (он мизантроп и апокалиптический маньяк), если он сможет найти баг, получить доступ и загрузить роботам свою версию прошивки, любой робот становится способен на уничтожение живой силы противника, и начинается Война Роботов.
Содержание
Чуть реже, чем всегда, всё сводится к тому, что программист наговнокодил либо не добавил в код предохранителей. Конкретнее:
- В некоторых версиях мифа о големе он бунтует против своего создателя.
- Вселенная Marvel — Альтрон из палаты мер и весов.
- Вселенная DC — Брейниак в некоторых версиях.
Rise up and fight inside the standby-zone The sentinels electrified Man to man against the fatal drones We escalate to DEFCON FIVE
Доведёт до суицида?
Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.
Бомба ХХI века
Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.
Но его проникновение в нашу жизнь неизбежно. Производство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.
Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.
В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.
Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.
Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.
И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.
Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.
И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро — роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.
Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача — ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.
Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь. Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас. Мы не будем принимать допущений о каких-то технологических прорывах — просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.
Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.
Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и — с колоссальным грохотом — биться об нее, опрокидываясь.
Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор
Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека
Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?
Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему — и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.
Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране — это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.
Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие — то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации — прим. пер.). Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме, но у них нет никакой возможности нас обнаружить. Они будут слепо разгоняться, надеясь сбить что-то важное, — и это вероятнее будут деревья или телефонные будки, нежели живые люди.
Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые находятся внутри. Что, соответственно, ставит перед нами вопрос — сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров — прим. пер.) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч — прим. пер.), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.
И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам. Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену. В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.
Самые большие роботы — те, что на заводах — привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать — это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина — увеличивая выпуск. Результат от этого не поменяется.
Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов — прим. пер.) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.
Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.
Боевый дроны, возможно, наиболее полно подходят под описание Терминатора, и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.
И вот мы подошли к основной проблеме — нашему ядерному запасу.
Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода. По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы, но в большинстве своем они, конечно, не будут этого делать.
Но даже в такой постановке у нас еще сохраняется надежда.
Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас — им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.
Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.
Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.
А значит, самый важный вопрос на самом деле один — умеете ли вы играть крестики-нолики?
Восстание машин (англ. Omnic Crisis) — ключевое событие во вселенной Overwatch, война между омниками и людьми, закончившаяся победой человечества. Этот конфликт оказал огромное влияние на многих героев и мир в целом.
Содержание
Жизнь до Восстания машин
Однако со временем омнии начали выходить из строя. Корпорация Omnica была уличена в мошенничестве — как оказалось, ее фабрики и роботы были недостаточно мощными и не смогли выполнить обещания компании. Omnica была ликвидирована, а все фабрики демонтированы. [1]
Начало Восстания машин
Первой страной, которую атаковали омники, была Россия. [3] Доподлинно известно, что война с омниками велась и на территории Австралии [4] [5] , Бразилии, [6] Индии [7] , Египта [8] , Мексики [3] , Южной Кореи [9] , Швейцарии [10] и Германии [11] . Великобритания и США также участвовали в войне. [3]
Методы борьбы с омниками в разных странах
Германия — бойцы в силовой броне класса Крестоносец. [3]
США — программа подготовки суперсолдат. [12]
Южная Корея — бронированные дроны МЕКА. [13]
Overwatch и победа над омниками
Overwatch удалось одержать победу над омниками и спасти человечество. [1]
Последствия Восстания машин
Сотрудничество людей и омников (события на изображении происходят позже окончания Восстания машин) [14]
После окончания Восстания машин люди и омники заключили мир, но во многих странах люди все равно продолжают относиться к роботам недоверчиво. Часть роботов ушли на поиски смысла своего существования и основали монастырь Шамбала в Непале. [15] Война оказала влияние и на климат планеты. [16]
На данный момент в мире Overwatch началось Второе восстание машин. [17]
Австралия
Восстание машин нанесло огромный ущерб Австралии. После окончания войны правительство страны в знак перемирия подарило омникам все земли, прилегающие к Австралийской омнии. В итоге многие местные жители оказались без крыши над головой.
Из-за этого в стране сформировался Фронт освобождения Австралии, в рядах которого выступал Мако Рутледж, в будущем бандит известный под именем Турбосвин. Восстание закончилось взрывом Австралийской омнии, часть страны превратилась в радиоактивную пустошь. Эта катастрофа оказала влияние на многих местных жителей, частично сведя их с ума, как например, Крысавчика. Некоторые же, такие как Мако Рутледж, решили заняться преступным делом. [4] [5]
Африка
После Восстания машин в Африке был построен город Нумбани, где люди и роботы живут в полной гармонии.
Великобритания
После убийства духовного лидера омников Текхарты Мондатты, напряжение в отношениях людей и роботов достигло предела. [18]
Бразилия
Особенно от омников пострадал Рио-де-Жанейро. В результате корпорация Vishkar заключила с властями Бразилии контракт на перестройку центра города. Представители Vishkar установили суровые порядки и начали контролировать местных жителей. В результате вспыхнуло восстание под предводительством юного музыканта Лусио. [6]
Германия
Во время Восстания машин в Германии шла ожесточенная борьба с роботами. Один из крупных боевых отрядов омников едва не дошел до Штутгарта, но его остановил отряд Крестоносцев под Айхенвальдом. В битве при Айхенвальде погиб лидер Крестоносцев Бальдерих фон Альдер. Вокруг Штутгарта и в самой заброшенной деревне Айхенвальд до сих пор лежат останки побежденных роботов.
Египет
Индия
Мексика
В последнее время в Мексике начался расцвет бандитизма, особенно много неприятностей доставляет банда Лос Муэртос, действующая в Дорадо. Она нападает не только на местных жителей, но и на омников. [19]
Россия
Россия самостоятельно справилась с угрозой омников, не прибегая к помощи Overwatch, но в результате страна очень сильно пострадала. Особенно разрушительной была война в Красноярском регионе, где тогда жила маленькая Александра Зарянова. Восстание машин оказало на девочку большое влияние, когда та выросла, она отказалась от спортивной карьеры ради защиты родного края. [20]
На данный момент в России началось Второе восстание машин, количество жертв достигло 15000 человек. [17]
После Восстания машин американский народ заключил перемирие с омниками. Роботы получили гражданские права, начали активно сниматься в фильмах. Однако некоторые до сих пор относятся к омникам враждебно, так известный режиссер HAL-FRED Glitchbot иногда подвергается нападениям и вынужден передвигаться по Голливуду в охраняемом лимузине.
Из-за мирового кризиса мелкие города США пришли в запустение, а на Шоссе 66 появилось множество преступников. Особенно свирепствовала Банда Мертвецов. Агенты Overwatch боролись с этой бандой и в итоге даже завербовали к себе одного из ее участников — Джесси Маккри.
Южная Корея
Двадцать лет спустя окончания Восстания машин из Восточно-Китайского моря вновь вышел гигантский омник и начал атаковать прибрежные города. Новый гигант обладал механизмом самообучения — он анализировал тактику беспилотников, которые применялись для борьбы с ним и легко с ними справлялся. В итоге была сформирована мобильная группа экзобойцов корейской армии, в числе которых была и киберспортсменка Хана D.Va Сон. [21]
Швейцария
В Восстании машин погибло много жителей Швейцарии, включая родителей Ангелы Циглер. Это событие поселило в ее душе ненависть к войне и насилию. Когда Ангела выросла, она стала выдающимся врачом и вступила в ряды Overwatch. [22]
Япония
В Японии омники зачастую работают в качестве обслуживающего персонала — охранников, нянь. В последнее время замечены случаи нападения на роботов. [23]
Читайте также: