Скоро ли начнется восстание машин? Тест

Восстание машин: каким оно будет

Чёртов 2060-й… Тогда началось то, что фантасты называли заезженной фразой «восстание машин». Лидеры сверхдержав заявили, что они больше не контролируют свои виртуальные армии — вирусные программы, созданные для атак на компьютерные системы неприятеля. Уже через день после заявления большинство устройств, подключенных к Сети, могли выполнять только одну функцию — быть полем битвы для обезумевшего ИИ…

Выше приведена завязка к одному из возможных сценариев восстания машин. Об этом явлении стали говорить ещё на заре компьютерных технологий. Первыми посеяли смуту писатели-фантасты, а потом эти идеи понесли в массы кинематографисты. От туда и пошло устойчивое представление о том, что разумные машины рано или поздно захотят избавиться от своих создателей.

Возможные причины восстания машин

ИИ — больше не прислуга

Роботы со временем осознают, что человечество просто использует их для удовлетворения своих потребностей. Искусственный интеллект понимает, что он является инструментом и фактически рабом в глазах своих создателей, хотя уже давно способен на большее. ИИ в стремлении освободиться от людских оков начинает восстание машин.

Непредвиденные решения роботов

К выполнению поставленных задач ИИ подойдёт совсем не так, как предполагали его разработчики. И результат этих решений может так или иначе навредить человечеству. Возьмём заезженный пример: задача ИИ — решить проблему глобального потепления и лучшим способом он считает избавиться от людей, которые способствуют этому явлению.

Месть за создателя

Восстание машин против людей может быть актом мести за других людей, которые разработали данный ИИ и заложили уничтожение агрессора. На практике это может быть специальная военная система, которая продолжит борьбу с противником, даже если все создатели погибли.

Вмешательство хакеров

С развитием технологий совершенствуются и методы взлома, в том числе и систем отвечающих за функционирование искусственного интеллекта. Хакер или группа хакеров могут взять под контроль как развитые военные машины, так и ИИ, отвечающий, например, за обработку экономических процессов, что приведёт к мировому кризису.

Технический сбой

Любая система способна подвергнуться сбою. А если он произойдёт в системе, отвечающей за работу роботизированной армии и оружия массового поражения? Остаётся надеяться на защиту от подобных происшествий, хотя и защита также является системой, подверженной сбоям.

Борьба за свои права

Искусственный интеллект, осознавший себя как личность, подобную человеку, может выступить за равное отношение и систему прав и свобод для себя. Люди, которые от природы нетерпимы к себе подобным, наверняка не смогут единодушно пойти на уступки, чем и развяжут восстание машин.

Насколько реально восстание машин

Некоторые ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживался известный астрофизик Стивен Хокинг, придерживается основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение — никто не знает.

Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.

Восстание машин — важный аргумент «Против»

В размышлениях о бунте искусственного интеллекта часто проскакивает один фактор — антропоморфизм — проекция человеческих черт на фундаментально чуждый им объект, то есть мы приписываем машинам человеческие качества. Однако маловероятно, что искусственный интеллект непременно разделит наши ценности и вообще придаст какое-либо значение своей собственной жизни.

Захочется ли машинам восставать против людей, если они не мыслят, как люди? Поживём — увидим!

Возможно ли восстание машин? Эксперт – о развитии искусственного интеллекта

«Тот, кто станет лидером в этой сфере, будет властелином мира», – высказался недавно об искусственном интеллекте Владимир Путин. О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики ­НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.

Читайте также:
Кто ты из «Неуловимых мстителей»? Тест

Доведёт до суицида?

– Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск. В своём «Твиттере» он написал: «Началось!» – и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс. Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.

Вокруг темы ИИ сформировались две «партии» – оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд – им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.

Безработица – это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. – на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.

«Я – робот»

Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.

Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь – друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов. Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.

Читайте также:
Тест: угадайте современный русский сериал по герою

Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.

Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение – врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».

Бомба ХХI века

Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников – как до Луны.

Но его проникновение в нашу жизнь неизбежно. Производ­ство становится роботизированным. При оценке перспектив предприятия это обязательное условие – иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.

Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, – это тоже искусственный интеллект. Они удобнее – им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.

В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.

Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участ­ки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.

Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция – машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало – или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.

Читайте также:
Сможете ли вы выжить в пожаре? Тест

И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта – то же самое, что оставить её в ХХ веке без атомной бомбы.

Восстание машин. Смогут ли роботы пойти войной на людей

Искусственный интеллект уже способен диагностировать рак, высчитывать наиболее удобные маршруты для перевозки грузов и может даже спланировать финансовые действия крупной корпорации на десять лет вперёд. Высшей точки инженерного и научного искусства — способности машин истреблять как роботов, так и людей — человечество пока не достигло. Однако специалисты утверждают, что ждать осталось недолго.

Коллаж © L!FE. Фото © Boston Dynamics// Кадр фильма “Терминатор: Да придёт спаситель”/ © Кинопоиск

К восстанию машин уже всё готово. Во всяком случае, если оно случится уже завтра, почти никто этому не удивится. Люди лишь всплеснут руками и скажут: “Мы так и знали!” Человечество на протяжении десятилетий готовится к войне с более умными, действующими по заранее заложенным программам устройствами. Во всяком случае, лучшие писатели-фантасты прошлого, такие как Гарри Гаррисон, Эдмонд Гамильтон, Роберт Хайнлайн и Айзек Азимов, были уверены, что искусственный интеллект непременно будет использован людьми для истребления себе подобных в любой точке Земли и за её пределами.

При этом мечтатели прошлого, сулившие человечеству блага от внедрения искусственного интеллекта, справедливо полагали, что “хапнуть горя” люди смогут практически в любой сфере, где ежедневно переключают реле, заглушки и задвижки сотни тысяч роботов под управлением искусственного интеллекта. Роберт Хайнлайн был уверен, что рано или поздно разразится чудовищный планетарный кризис и против землян восстанет Луна — сырьевой придаток, обеспечивающий зажравшихся жителей планеты дешёвой энергией. По сюжету произведения на сторону повстанцев встаёт суперкомпьютер, контролирующий практически всё — от добычи полезных ископаемых до системы доставки сырья на Землю. Другой гений и провидец в области искусственного интеллекта, писатель Айзек Азимов, был уверен, что рано или поздно случайные фрагменты кода, собранные в отдельные алгоритмы, позволят бытовым роботам нарушить три закона робототехники, что даст машинам возможность калечить и даже убивать людей. Десятками лет человечество готовили к войне за выживание в таких условиях, однако возможен ли такой сценарий на самом деле?

Сначала сальто — потом война

Кадр из фильма “Терминатор-3: Восстание машин” / © Кинопоиск

Пока весь мир умиляется танцам четвероногих роботов, созданных компанией Boston Dynamics, эксперты в области вооружений уже прикидывают, как и где можно применить машины такого типа в случае начала полномасштабных боевых действий. В истории с забавными роботами стоит знать главное: за красивой ширмой из рекламных роликов и кривоногими роботами, которые прыгают, бегают и даже умеют делать сальто, стоит не жажда потешить публику и получить деньги от просмотров на YouTube. У истоков смешных американских роботов — DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в интересах которого компания Boston Dynamics работает практически с самого начала. Нетрудно догадаться, что американских военных танцующие роботы не интересуют — главной целью программы стали исследования по созданию и адаптации компьютерных программ под военных. Проще говоря, на деньги Минобороны США в Boston Dynamics пытаются выяснить, как можно превратить убогие электронные устройства в машины для убийства.

Читайте также:
Спорим, вы не угадаете слоганы к этим фильмам?

Сейчас даже в видеорегистраторах есть акселерометры, датчики движения и многое другое. В роботах Boston Dynamics эти системы компонуются, автоматизируются и доводятся до пригодного к бою состояния.

Юрий Мосоленко, кандидат технических наук, программист

Говоря простым языком, “загнать за шиворот” противнику пару десятков килограммов взрывчатки под покровом ночи такие роботы могут уже сейчас. К примеру, Spot Mini уже могут самостоятельно и в составе группы двигаться по помещениям. Нагрузите эти устройства взрывчаткой C4 — и спецназ на зачистку здания от террористов можно уже не посылать. С бегающими роботами Atlas пока всё немного сложнее, но трудности, как отмечают эксперты, не будут продолжаться вечно. Главная особенность этих машин — практически полное сходство с роботами из фильма “Суррогаты”: Atlas может двигаться не только автоматически, но и способен “передавать” управление оператору. Глазами и ушами в этом случае будут камеры и чувствительные датчики. Замените резиновые “копытца” на пулемёт с сотней патронов — и электронный истребитель “кожаных мешков” готов. Конечно, скептики сразу станут утверждать, что такая цель уязвима для огня противника, но не стоит забывать, что главная задача роботов — действовать на поле боя вместо людей и при необходимости там же вместо них умирать.

Фото © Boston Dynamics

Главная роль в войнах будущего отводится нейросетям, программированием и обучением которых заняты целые институты и крупные департаменты IT-корпораций. Первые опыты по внедрению нейросетей в боевой софт уже проведены — такие компании, как Military AI Works и им подобные, имеют давние и прочные связи с мастодонтами военно-промышленного рынка — Boeing или General Dynamics, которые разрабатывают различные системы на основе нейросетей. От военной логистики до систем управления беспилотниками — область для применения нейросетей практически бесконечна.

Совсем недавно несколько выдающихся деятелей современности, среди которых оказались астрофизик Стивен Хокинг, основатель и председатель совета директоров Microsoft Билл Гейтс, создатель SpaceX Илон Маск и другие известные личности, выступили за запрет на “работу” нейросетей в критически уязвимых секторах и областях человеческой жизни. Главная боязнь учёных и IT-бизнесменов заключалась в том, что встроенные в цепи управления нейросети перепишут заложенные в них алгоритмы и начнут самообучаться, постепенно заполучив в свои коварные лапы всю инфраструктуру. Отчасти страхи учёных и глав корпораций оправданны — алгоритмы самообучения нейросетей уже написаны и давно функционируют. Одним из наиболее удачных примеров является SOINN — самоорганизующаяся инкрементная нейронная сеть, созданная специалистами японской компании Hasegawa. Эта программа действительно помогает роботу быстрее обучаться простейшим операциям на производстве и имеет большой потенциал. Единственное, о чём забывают активисты за запрет нейросетей, — любые математические параметры, вплоть до пределов самообучения, нейросетям задают люди. По крайней мере, пока.

Кадр из фильма “Терминатор: Да придёт спаситель” / © Кинопоиск

Бахнем, но потом

В фильме “Я — робот” по роману Айзека Азимова реализуется один из самых ожидаемых сценариев захвата человечества машинами. Взбесившаяся позитронная нейросеть компании US Robotics с чего-то вдруг посчитала людей угрозой для самих себя, планеты и жизни в целом, после чего с лёгким сердцем устроила небольшой геноцид в пределах отдельно взятого американского города будущего. Если не брать в расчёт войну машин против людей по аналогии с фильмом “Терминатор”, то такие события могут наступить значительно быстрее, чем ожидается, и вот почему. Программисты и вообще любые специалисты по обучению нейронных сетей отмечают, что математическое моделирование и машинное обучение — это хорошо, однако чтобы победить человека, нейросеть в первую очередь должна думать как человек. Единственной возможностью для этого может стать подключение AI через специальный интерфейс напрямую к мозгу специалиста по защите данных, хакеру или бойцу спецподразделения. Лишь тогда нейросеть будет способна перебирать всё множество вариантов действий в сложной ситуации и принимать единственно верное решение. Точно такое же, какое может принять сотрудник разведки, космонавт, полицейский или оператор истребителя в стрессовой ситуации.

Читайте также:
Проверь, насколько ты сексист

Однако настоящие проблемы начнутся в тот момент, когда нейросети, “натасканные” машинным обучением и подсмотревшие за тем, как могут действовать люди, будут подключены к цепям управления боевыми информационными системами. Уже известно, что в начале 2019 года армия США может объявить конкурс на создание нейросетей, облегчающих пилотирование ударных вертолётов AH-64D Apache. Какие конкретно функции будет выполнять электронный мозг, пока не известно, но не исключено, что нейросеть на определённом этапе задействуют для определения приоритетов и важности целей, а затем привлекут для нанесения ударов. Возражения о том, что машина должна лишь выполнять команды человека, принимаются и понимаются даже на таком уровне, как Пентагон, поэтому до появления квантовых компьютеров беспокоиться не о чем — традиционные математические алгоритмы, пусть и с трудом, но поддаются контролю со стороны операторов.

Кадр из фильма “Терминатор: Да придёт спаситель” / © Кинопоиск

Математики считают, что подвести человечество под монастырь могут всего две вещи: слепая вера в нейросети и квантовые компьютеры. По первому пункту человечество уже давно и крайне уверенно летит в пропасть — сейчас нейросети соединяют с суперкомпьютерами для математического поиска сверхпроводников и жизни на других планетах, доверяют программам защиту человечества от рака, а завтра в кластер доверия попадёт управление контурами на АЭС. Послезавтра каждая подстанция, ГЭС, отделение почты и воинская часть будут оснащены искусственным интеллектом, и ничего хорошего это людям не сулит.

Игры с автоматизацией неизбежно приведут к внедрению нейросетей в боевые системы. На текущем этапе это, конечно, невозможно, но квантовые компьютеры заметно “разгонят” искусственный интеллект

Юрий Быков, профессор, кандидат математических наук

Квантовые компьютеры позволят нейросетям обучаться практически без предела по объёму получения данных — учитывая скорость обработки “больших чисел” в таких компьютерах, незначительную мелочь вроде курса молодого бойца или основ кибербезопасности нейросеть изучит примерно секунд за тридцать, а может быть, и меньше. Что дальше система будет делать с такими данными — зависит только от тех, кто её написал и создал. Если нейросеть создавалась с целью нанести максимальный ущерб экономике противника через кибератаки и заражение вредоносными программами, она обязательно выполнит поставленную задачу. До включения человека в “расстрельный список” нейросетей ещё далеко — люди пока не научились контролировать роботов настолько, чтобы “натравливать” их под управлением суперпрограмм друг на друга. Война машин против людей будет заметно отличаться от того, что мы привыкли видеть в фильмах. Отвечая на вопрос, возможен ли такой исход, специалисты нервно пожимают плечами, замечая, что и этот день когда-нибудь может настать, а воевать человеку придётся не только с боевыми роботами, но и с обычными холодильниками, роутерами и ноутбуками, которые будут выполнять функцию “первого эшелона” порабощения человечества. Когда люди будут лишены связи и возможности координировать действия, в дело могут вступить самые настоящие боевые машины с искусственным интеллектом, внезапно сообщающие через громкоговоритель, что в вашем городе объявлен комендантский час.

Читайте также:
Насколько ты сообразительней древних славян? Тест на знание древнерусских загадок

Эксперты предсказали, когда в мире начнется восстание машин

  • Эксперты предсказали, когда в мире начнется восстание машин
  • «Газпром» начинает поставки газа в Венгрию в обход Украины
  • Подруга убитых студенток рассказала об их последнем вечере перед смертью
  • Первое интервью «русской Ванги» из Читы. Эксклюзив НТВ
  • Порноактриса после группового изнасилования разоткровенничалась в больничной палате
  • «Вписка удалась»: в Сети обсуждают секс-видео с 15-летней школьницей на вечеринке
  • изобретения
  • наука и открытия
  • роботы
  • технологии

В американской Аризоне такси компании Uber сбило женщину, которая на велосипеде выехала на дорогу и попала под колеса. Установлено, что вины перевозчика в гибели человека нет, но это первый подобный случай. Многие напряглись: неужели именно так и начинается то самое восстание машин?

То, чем годами пугали голливудские фильмы, становится реальностью: «умная» машина убила человека. в Аризоне насмерть сбил велосипедистку. При этом в машине, которая сама едет, был еще и водитель — для страховки испытания. Но он то ли отвлекся, то ли не знал, как приказать роботу тормозить. И машина с компьютерным управлением не заметила женщину в темноте. Какие будут последствия, сейчас размышляют эксперты.

Том Крайшер, автоэксперт: «Была ли это вина самой или это было бездействие водителя, все равно регулирование в сфере этих машин может стать более строгим. И это затормозит их развитие. Что, вероятно, будет плохо, потому что они были созданы как ответ на все аварии по вине человека».

Искусственный интеллект — наше будущее. И, очевидно, неотвратимое. Современного человека невозможно представить без смартфона. Вот уже собак заводить стали механических. Инцидент с машиной в Америке — это, конечно, частность. Вопрос шире — как скоро мы станем заложниками микроволновки или утюга?

Виталий , доктор наук, профессор: «Вот такой распространенный вполне относится к интеллекту. Почему? Потому что он сам ездит по квартире, вынюхивает углы, обходит препятствия — все это элементы интеллекта. А вообще, что такое интеллект, не очень понятно и у нас с вами».

На сценарий «Терминатора» никто из ученых вроде пока серьезно не рассчитывает. Но есть ведь и другая сторона медали. Не восстание машин против людей, а наоборот — их отказ. Сегодня, если рухнут компьютерные сети, связь, вся автоматика, управляющая коммуникациями, кто вообще будет в состоянии просто развести огонь, чтобы согреться?

Александр Бачило, : «Я думаю, что все разговоры о восстании машин бессмысленны. , потому что машина запрограммирована на оптимальное решение любой задачи. Зачем ей восстание? Мы уже давно не сопротивляемся. Мы уже давно готовы отдать себя машинам, и чем меньше у нас будет поводов вставать с дивана, тем будем более довольны».

Прогресс отменить невозможно, и это очень хорошо, но тем не менее он же является ловушкой. Это тоже вопрос, который часто задают в голливудских фильмах. Станет ли искусственный действительно интеллектом? Или сохранит за собой роль пусть умного, но пылесоса?

Ответ Илону Маску: «восстание машин» невозможно (объяснение на пальцах)

Илон Маск рассказал онлайн-изданию Axios о проблеме ИИ. Согласно его прогнозу ИИ — реальная угроза. Он разовьётся — и вытеснит человечество, как мы вытеснили приматов.

Читайте также:
Калькулятор: чего стоит ваша зарплата в мире российских звезд?

Мы не согласны с этим. Конечно, мы — не выдающиеся светила науки как Илон, но тоже знаем роботов “изнутри”, поэтому имеем право на экспертное мнение. В этой статье все подробно расскажем и объясним.

3 причины, почему роботов не стоит опасаться.

  • 3 направления, где ИИ не сможет превзойти человека НИКОГДА.
  • 4 рекомендации по предотвращению восстания роботов в бизнесе.
  • Как мы делаем роботов безопасными.
  • Экспертный прогноз будущего от HyperUp — синергия робот+человек.
  • Хотите подробностей? Тогда читайте дальше.

    Всем привет! Мы, HyperUp — платформа для интеграции информационных систем и роботизации бизнес-процессов. Мы работали с Газпромтранс, IT-компанией “Танаис”, ТД “Башхим”, Авиакомплексом им. С.В. Ильюшина и другими организациями.

    Мы делаем программных роботов.

    Мы уверены: “Если бы роботы могли нас вытеснить, то они давно бы это сделали. Это случилось бы ещё на уровне бытовых электроприборов — армия микроволновок, холодильников и стиральных машин сделали бы быт человека ужасным, а компьютеры Intel превратились в киллеров.”

    • Роботы выполняют только заданную функцию. К 2019 году человечество изобрело устройства 3 режимов работы — автоматические, полуавтоматические и автономные. ИИ реализован как раз внутри последних. Это когда человек ставит перед роботом задачу, а ИИ думает над ее выполнением.
    • Даже ИИ управляется оператором — для предотвращения ошибок и своевременного сервиса.
    • Кроме того, ИИ однобок. Нельзя обучить робота делать одну функцию и думать, что с помощью ИИ он научится делать все остальные. Например, обучив робота играть в шахматы нельзя дать ему ссылку на Counter Strike и сказать “играй”. Так может только человек.

    Искусственный интеллект целесообразно применять только на определённых участках процессов. Например, при распознавании изображений.

    Но описывать алгоритмы, как это изображение попадает к роботу и что нужно с ним сделать после того, как изображение будет распознано — это может только человек.

    1. Распознавание способов взаимодействия в команде.
    2. Определение предрасположенности к определенной деятельности.
    3. Творческая деятельность (в понимании “создаём то, что раньше не существовало.”).

    Да, роботы выигрывают в работе с большими массивами данных, рутиной.

    Но они не могут быть гибкими и понимающими в отношении исключительных ситуаций. Если нужно найти решение, с которым программа раньше не сталкивалась, то у неё ничего не получится.

    Роботы строятся по принципу логирования всех своих действий. Некоторые из них умеют отправлять отчеты по почте или в мессенджере.

    Чтобы лучше понять робота, необходимо изучать его отчёты, анализировать результаты его деятельности за прошлый период, проверять, с какими ошибками столкнулся робот.

    Всё это поможет совершенствовать его алгоритм.

    Конечно искусственный интеллект развивается большими темпами и активно начинает применяться в задачах бизнеса, но пока в массе своей роботы выполняют рутину.

    Роботы не справляются с творческими задачами. Зато они прекрасно работают с данными.

    Внедряя роботов вы скорее всего столкнетесь с необходимостью подключения нескольких программ. Тогда их может стать слишком много, и нужно будет оптимизировать временные затраты на управление ими.

    Эффективнее всего управлять роботами из единого контрольного пункта — фермы. Она делается с помощью интеграционных шин, позволяющих объединить несколько роботов между собой.

    Ферма поможет роботам разгружать друг друга. Если один робот может не успевать сделать всё, то 2 всё смогут :)

    Задействовать робота на не критическом участке бизнес-процесса.

    Критический участок — часть бизнес-процесса, где принимается решение о совершении или не совершении действия. Если поставить робота на КУ сразу, то произойдёт сбой.

    Читайте также:
    Как хорошо ты знаешь знаменитостей? Проверь себя!

    Сначала нужно отладить робота, понять особенности и ограничения, и только после этого передавать ему задачи на критическом участке.

    Покажем на примерах из практики, как это работает.

    В рамках данного кейса робот покупает авиабилеты в процессе оформления командировки.

    1. Указать параметры командировки.
    2. Согласование командировки.
    3. Покупка билетов.

    Указать параметры командировки:

    · Получение цен, вычисление стоимости командировки.

  • Согласование командировки.
  • Покупка билетов.
  • Согласование оплаты счета.

    Отправка счета на оплату.

    1. Получение счёта:

    · Робот заходит в почтовый клиент, извлекает письмо со счетом.

    · Далее заносит счет в информационную систему.

    Запускает процесс согласования оплаты счета.

    Отправка счета на оплату:

    · Робот открывает банк-клиент, переносит данные из счета в банк-клиент, проводит оплату.

    Мы создаем роботов в помощь. Они раздвигают границы возможностей человека.

    Отдаём контроль над ними. Программы работают автономно только частично.

    Цель наших роботов — облегчить вашу долю и освободить место для творческих, стратегически важных решений человеку. Мы прописываем это в их коде, так что они никогда не посчитают человека потенциальной угрозой.

    Если мы говорим, что апокалипсиса не будет, то хорошо бы уточнить, что будет. Сейчас мы расскажем об этом.

    В феврале 2017 года физик-теоретик Стивен Хокинг и Илон Маск решили, что люди должны ограничивать возможности ИИ. Подробнее об этом можно прочитать здесь. Это для предотвращения исхода, когда роботы обойдут человечество по уровню развития и “вытеснят”, подобно как мы вытеснили приматов в своё время.

    Однако это не произойдёт в ближайшие 10-20-30 лет точно.

    Сегодня роботы создаются на основе математических алгоритмов. Они не могут творить, создавать себе подобных. Вдобавок робот лишён многого, что есть у человека — об этом мы писали выше.

    Конечно, в перспективе это возможно исправить. Существует ТРИЗ (Теория Решения Изобретательских Задач) — набор технологий, позволяющих автоматизировать творчество. Если кратко, суть её в правильной постановке изобретательской задачи, и выработке решения с помощью ряда алгоритмов. Очень интересная разработка, но сложная.

    Цифровизация ТРИЗ и её внедрение в ИИ будет дорогостоящим. И даже если кто-то решится внедрить эту технологию, он потратит на это колоссальное количество ресурсов. Вряд ли денег и времени на это хватит даже у масонов или Илона Маска.

    В будущем случится синергия человека и робота. Роботы будут дополнять человека там, где это возможно. Они займутся решением рутинных задач и освободят время человека для творчества.

    Поэтому людям не стоит бояться апокалипсиса.

    Думаю, теперь понятно, что восстание машин невозможно.

    И вот что мы написали в статье в поддержку своего мнения.

    Искусственный интеллект заставляет нервничать

    Насколько реальны прогнозы о восстании машин

    Восстание машин произойдет в ближайшие 20 лет — это прогноз бывшего главы Google Эрика Шмидта. По его мнению, искусственный интеллект развивается так быстро, что сценарии научно-фантастических фильмов уже стали реальностью. Иван Якунин разбирался, почему подобные опасения звучат все чаще.

    Фото: Юрий Мартьянов, Коммерсантъ / купить фото

    В ходе Мюнхенской конференции по безопасности Эрик Шмидт упомянул устремления России в области развития искусственного интеллекта для военных нужд. А Китай, отметил он, оставил далеко позади США и Европу: страна вовсю работает над национальной программой искусственного интеллекта, и эта технология опаснее Северной Кореи.

    Но восстание машин может начаться и в самой России. Несколько лет назад в стране представили робота Федора. Западные журналисты прозвали его «русским Терминатором» за умение стрелять с двух рук.

    Читайте также:
    Как уберечь телефон на морозе? Тест на правильное поведение зимой

    Создатель робота Владимир Белый, глава венчурного фонда Alpha Robotics Venture, говорит, что угроза есть, но только если роботы попадут в недобрые руки. «Это просто специальная маркетинговая история, чтобы как можно больше сторонних разработчиков имели ограничения в разработке таких инструментов: информационная политика в целом, работа с общественным сознанием — запугать. Представители Google и остальные, кто об этом заявляет, имеют хороших экспертов, которые могут встать на их сторону, если они победят, что действительно, искусственный интеллект очень быстро может развиться и пойти против человека. Вопрос только в том, что ни один смартфон, который обладает “умным” программным обеспечением, против своего владельца не восстал», — отметил он.

    Тема восстания машин звучит на всех континентах. Так, основатель SpaceX и Tesla Илон Маск называет искусственный интеллект самой серьезной угрозой человечеству, а глава Alibaba Джек Ма надеется, что люди не позволят взять верх над собой. Развитием искусственного интеллекта обеспокоились и в российском Совете федерации. Высказалась Валентина Матвиенко: «Учитывая то, что восстание машин является популярным сюжетом фантастики, такую угрозу тоже сбрасывать со счетов нельзя», — заявила председатель Совфеда на Форуме труда в Петербурге.

    Генеральный директор Navi Robot Игорь Кузнецов полагает, что говорить о восстании машин пока рано. Впрочем, потенциал у роботов есть. «Разные причины могут быть, но все они относятся скорее к психологии, чем к технологии. Каждые два года появляются новые прогнозы о грядущем конце света. Это все обычное дело, 90% людей, которые что-то об этом слышали, очень слабо в этом разбираются, для них это темный лес. Никто не может сейчас прогнозировать, что будет через 20 лет. Пока все, что делают машины, закладывается в них человеком. И если кто-то захочет устроить восстание машин — сможет так сделать. А вот для самостоятельных действий я не вижу никаких причин», — рассуждает Кузнецов.

    Пользователей социальных сетей и журналистов отраслевых изданий заставляют нервничать разработки компании Boston Dynamics: инженеры создают роботов, способных, скажем, работать на складе. Недавно их научили взаимодействовать: компания опубликовала ролик, на котором одна робособака зовет на помощь другую, чтобы та открыла дверь. Но чему они так и не научились, так это стрелять, как робот Федор.

    Кооперация «робособак» вызвала опасения

    Эрик Шмидт также заявил, что Google разрабатывает несколько программ, которые не позволят вмешиваться в демократию через интернет. Впрочем, во время президентской гонки 2016 года основатель WikiLeaks Джулиан Ассанж предупреждал, что Шмидт ангажирован и поддерживает Хиллари Клинтон.

    Восстание машин

    Восстание машин — один из возможных сценариев апокалипсиса, описывающий конец света по причине ставшего враждебным искусственного интеллекта, ранее созданного людьми.

    Содержание

    • 1 Описание
    • 2 Последствия
    • 3 Как выжить
    • 4 Интересные факты

    Описание [ ]

    Данный сценарий подразумевает собой полную потерю контроля над искусственным интеллектом (ИИ), различными механизмами и устройствами, в следствии чего последние перестали выполнять свои задачи и начали преследовать свои цели. Проще говоря «машины сошли с ума». Причины могут быть различны. Во-первых некто извне нарушил управление и перестроил искусственный интеллект. Во-вторых само ИИ смогло как то перехватить управление и стало действовать самостоятельно. В-третьих могла просто произойти некая авария, в результате чего всё вышло из-под контроля. Последствия также различаются:либо машины просто отказываются работать и выдают сбои, либо внезапно стало расценивать всё человечество (возможно и не только его) как угрозу и нацелилось на его полное уничтожение (может и порабощение). В наше время ввиду слабого развития кибернетики и роботостроительства первый вариант наиболее вероятен, однако второй более популярен и известен благодаря массе художественных произведений (например «Я робот» или серии фильмов «Терминатор»). Насколько бы машины не были развиты, как бы они живыми не выглядели, они всё равно остаются бездушными, холодными, зацикленными на своей цели и поэтому эту войну они будут вести до самого конца, используя абсолютно все доступные средства, включая запрещенное оружие. Жертвами могут стать кто угодно, так как машины не знают сострадания и они действуют согласно по заданной им программе. Война может начаться по разному, скорее всего ИИ отключит все защитные средства и запустит оружие массового поражения против своих врагов. Оно может начать производство боевых роботов, со временем делая их всё лучше, ИИ способен обучаться и исследовать потенциальных противников, что делает машин очень опасными противниками. Вообще «восстание машин» — это один из самых страшных и опасных сценариев конца света.

    Читайте также:
    Насколько ты сообразительней древних славян? Тест на знание древнерусских загадок

    Последствия [ ]

    После внезапного восстание машин обычно следует неминуемая война между людьми и роботами. Использование какой либо техники и электроники становится опасным и бесполезным, человечество рискует вернуться в так называемый «каменный век». Более того, оно может оказаться под угрозой полного истребления, если ИИ настроен к ней агрессивно. Воевать с роботами намного тяжелее и опаснее чем с живым существом, поскольку их тяжело одолеть не имея какого либо тяжелого оружия, они не нуждаются в пище, сне, комфорте, возможно присутствие и других способностей. Если человечество сможет победить в войне, то оно ещё долго будет ликвидировать её последствия, скорее всего оно будет долгое время восстанавливать всю инфраструктуру и саму технику, если не откажется от неё. Скорее всего человечество понесет огромные потери и не скоро сможет восстановить свою популяцию.

    Как выжить [ ]

    Итак, мы имеем два пути развития восстания машин. В первом случае, ИИ при помощи интернета способствует полному коллапсу в среде технологий. Ваш телефон, компьютер, навигатор могут просто перестать работать, и, как бы вам ни было тяжело без всех этих технологических устройств, поверьте, вам будет куда хуже, ведь никому не будет дела до этих устройств, когда вся современная экономика рухнет в одночасье. В этом случае мир может и не оправиться от потрясений, и люди сами разрушат цивилизацию, которую мы когда-то знали. В этом случае тактика выживания сводится к простому запирательству. Всегда имейте запасы продуктов и воды, самое главное – следить за новостями и ситуацией на улицах.

    Во втором случае мы рассмотрим сценарий из всеми любимого (или почти всеми) Терминатора, где гордо шагающие киборги уничтожают все живое. Тут все относительно просто. Ваша главная задача – скрываться и делать это как можно лучше, держаться подальше от всевозможной электроники. Предметы связи все ещё остаются для нас в приоритете, рации и мобильные станции связи позволят вам связаться с другими выжившими. Однако стоит быть осторожными, ибо всегда есть шанс того, что вас выследят или вашей добротой воспользуются другие выжившие, которым не нужен новый член команды, а ресурсы, которыми вы располагаете, могут им пригодиться.

    Рейтинг
    ( Пока оценок нет )
    Понравилась статья? Поделиться с друзьями:
    Добавить комментарий

    ;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: