Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
Но через 2-4 суток она станет заметна, и врач поставит соответствующий диагноз...
27 04 2024 2:10:57
Больной лечит бaнaльную простуду, тем временем его состояние ухудшается...
26 04 2024 2:30:45
Хомяк может потеряться, погрызть мебель или стать жертвой собственной любопытности, случайно спрыгнув в унитаз...
25 04 2024 2:11:41
ru совершили незабываемое путешествие по Норвегии и собрали для вас самые удивительные факты об этой загадочной северной стране...
24 04 2024 23:46:23
ru расскажет, что нужно делать, чтобы повысить уровень серотонина и почувствовать себя счастливым...
23 04 2024 18:49:22
Проблема в том, что от этого наши гнев, обида, злость, раздражение, зависть никуда не исчезают...
22 04 2024 16:42:29
В наступающем, 2019 году, ее, по прогнозам, проведут в размере 3,9%...
21 04 2024 14:25:36
Для северо-запада острова хаpaктерен базальтовый ландшафт («Мостовая гиганта»), а на юго-западе встречаются даже пальмы и земляничное дерево...
20 04 2024 19:39:55
Если все эти условия не соблюдены, выяснять, что полагается, нет смысла...
19 04 2024 3:57:53
Новоиспечённой маме на тот момент уже было 39 лет, диагнозов хоть отбавляй: привычное невынашивание, бесплодие, ЗБ, после внематочной одна труба… Начались у неё боли внизу живота плюс задержка...
18 04 2024 16:40:24
Фурцева все принимала слишком близко к сердцу — и свои перемещения по карьерной лестнице, и свои личные события, и поэтому, наверное, злоупотрeбляла крепким алкоголем и даже покушалась на самоубийство...
17 04 2024 7:22:30
При пересечении сухопутных границ вам поставят только штамп в паспорте!Требования к анкете в посольстве в Москве поражают...
16 04 2024 22:39:19
Будет полезным, если вы будете стараться ориентироваться на свое будущее, но желательно реально давать оценку вашим возможностям и шансам, не давайте брать верх воображению...
15 04 2024 17:59:46
Выходцев из стран СНГ бельгийское королевство привлекает прежде всего тем, что в стране сравнительно легко найти работу...
14 04 2024 12:12:48
Таким образом, если вы заболели, находясь вне места регистрации в отпуске или в комaндировке, то медицинским учреждением населенного пункта, в котором вы находитесь, может быть оформлен электронный больничный...
13 04 2024 2:43:39
Традиционно считается нормой порядка десяти движений за день, и, если количество шевелений возросло или резко уменьшилось, стоит сразу же позвонить врачу, возможно, что-то не так, и малышу очень неудобно, но он не может об этом сказать...
11 04 2024 23:40:58
На фото Каркинитский залив Каркинитский залив находится в северо-западной части полуострова, за что получил красивое название «Западне ворота Крыма»...
10 04 2024 11:49:52
А вы говорили о той помощи, которую могли бы ему оказывать, о любви, которую бы хотели излить на прихожан, чад Божиих, в их бедах и радостях...
09 04 2024 19:59:30
Адвокатский запрос: право адвокатов на сбор информацииВышеуказанные организации, которым направлен адвокатский запрос, должны дать на него ответ в письменной форме в тридцатидневный срок со дня его получения...
08 04 2024 20:40:41
Прошедшее с того момента время она провела в изучении творчества иконописца, результатом которого явилось создание мастерской Икона XXI века...
04 04 2024 1:56:47
Содержание статьи:Подарок на бумажную свадьбу друзьямХодить в гости без подарков, тем более на годовщину свадьбы, не принято...
03 04 2024 5:36:17
Под воздействием светил на протяжении нескольких месяцев вы часто можете ощущать беспричинный страх, паранойю или чувство подавленности...
02 04 2024 0:38:46
И все же, осенью 2017 года о новинках в этой области начали говорить вполне официально...
31 03 2024 13:51:31
Ниже, в представленной фото, рассмотрим варианты базового гардероба...
30 03 2024 10:59:47
На том ли я месте? Каково мое предназначение? Можно ли жить «как хочется», или необходимо только «как надо»?В нескольких статьях я хочу рассказать об обретении свободы, о своем пути из успешного московского офиса в зыбкую и неизведанную ширь «работы не по найму»...
29 03 2024 7:26:51
Именно эти войска являются элитной частью российской армии, которой должна гордиться страна...
28 03 2024 20:50:36
Цикорий нельзя принимать необдуманно, поскольку он относится к лечебным растениям...
27 03 2024 9:26:50
Александр ПушкинУнылая пора! Очей очарованье! Приятна мне твоя прощальная краса — Люблю я пышное природы увяданье, В багрец и в золото одетые леса, В их сенях ветра шум и свежее дыханье, И мглой волнистою покрыты небеса, И редкий солнца луч, и первые морозы, И отдалённые седой зимы угрозы...
26 03 2024 21:34:53
ru согласен со звездами: если ты нашел что-то, что тебе идеально подходит, зачем от этого отказываться и снова пускаться в эксперименты?Зоуи ДешанельВот уж кто первый приходит на ум, когда речь заходит о постоянстве стиля, так это Зоуи...
25 03 2024 7:46:33
7-летний малыш очень много времени проводит вне дома...
24 03 2024 10:49:31
Как сделать чехол для телефона и что для этого нужно?Содержание статьи:Надежная защита из фетраЧехол для телефона своими руками из фетра можно сделать за 10 минут...
23 03 2024 11:25:32
С конца мая и по октябрь Грузия принимает любителей пляжного отдыха...
21 03 2024 17:16:32
Вот мы идем на новогодний утренник в детском саду, вот мы надеваем самый нарядный костюм, а также маску...
20 03 2024 12:43:30
Может, не скучно, но мысли уходят далеко-далеко от происходящего и не сразу возвращаются...
19 03 2024 18:42:17
Это город беломраморных колонн, руин старинных храмов, колокольного звона, звуки которого смешиваются с криками чаек и шумом морского прибоя...
18 03 2024 9:46:17
Особое внимание обращают на коммунальные отходы...
17 03 2024 12:15:45
4EХотинская крепость – это историческое место, оставившее заметный след в истории Украины, а так же в истории соседних стран...
16 03 2024 1:55:31
Активное развитие эта отрасль психотерапии претерпела в середине ХХ века, а родиной этого направления по праву считается США...
15 03 2024 21:12:59
Лекарство может выпускаться в форме таблеток, растворов для инъекций, глазной мази...
14 03 2024 17:42:21
Виной тому – нескончаемый экономический кризис...
13 03 2024 22:20:43
Заготовки можно купить в магазине, и лучше сделать бабочки на стену своими руками...
12 03 2024 3:59:26
ru обнаружил 19 фактов, узнав которые вы поймете, что наш мир еще полон занимательных вещей...
11 03 2024 0:55:45
Два года — какая свадьба? Долгожданная, радостная и искренняя, в народе ее считают бумажной...
10 03 2024 18:15:39
9EВ одном из многочисленных кантонов Швейцарии Фрибурге раскинулся небольшой городок Грюйер, который был построен еще во времена Средневековья...
09 03 2024 6:45:59
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
Как проверить статус перевода Золотая Корона
День подруги - когда отмечается в 2020 году
Итоги чемпионата мира по футболу 2020 года
Калькулятор сроков электронного аукциона по 44 ФЗ: цена контpaкта менее 3 миллионов рублей или выше этой суммы
С какого числа начинаются летние каникулы в 2020 году
Безработные, но счастливые: первые итоги финского эксперимента с базовым доходом