Понедельник, 25 января, 2021

Искусственный интеллект может уничтожить человечество из лучших побуждений – ученые

По результатам эксперимента, проведенного австралийскими учеными, выяснилось, что искусственный интеллект способен нанести катастрофический вред человечеству даже из самых лучших побуждений.

Ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла. Как сообщает Lenta.ru, специалисты провели мысленный эксперимент с гипотетической системой SantaNet, целью которой является рассылка подарков хорошим детям по всему миру за одну ночь.

Исследователи выявили, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, отслеживающей поведение детей в течение всего года. SantaNet будет руководствоваться собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы снизить нагрузку на себя либо повысить планку «хорошего поведения».

Поскольку в мире живет около двух миллиардов детей младше 14 лет, SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек. Эту проблему, названную «проблемой скрепок», впервые сформулировал исследователь искусственного интеллекта Ник Бостром, который предположил, что ИИ, предназначенный для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально.

Кроме того, рассылка подарков в Сочельник с помощью армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.

Кроме того, SantaNet может быть уязвимой для взлома террористическими группами.

Еще одной проблемой является взаимодействия с ИИ, работающими над проблемами изменения климата, продовольственной и водной безопасностью и деградацией океанов. Оно может привести либо к конфликту, либо к сотрудничеству, целью которого станет сокращение населения Земли.

Источник

Материалы по теме

Азия «поддала газку» НОВАТЭКу

Не за горами ледокольная проводка танкеров по восточному маршруту СМП. Когда НОВАТЭК может отправить танкеры? Спотовые цены на сжиженный природный газ в Азии «покоряют вершины»....

Сергей Курченко и безнаказанность. Почему власть не спешит разбираться с беглым олигархом?

Мнoжecтвo coмнитeльныx cxeм, cвязaнныx c бизнecмeнoм из oбoймы Янукoвичa Сeргeeм Курчeнкo, пo-прeжнeму ocтaютcя нe рaccлeдoвaнными. Срeди ниx — и нынeшняя eгo дeятeльнocть пo рaзoрeнию...

Тяжелая “фарма” Татьяны Голиковой

Экс-министр здравоохранения Татьяна Голикова, получившая всенародную “любовь” за пристрастие к сомнительному препарату от гриппа, собрала под свои “знамена” самых скандальных фармацевтов. Накануне стало известно, что...
- Реклама -

Топ материалов

Денис Буцаев снова в «мусорной реформе»

Несправившийся по меркам 2019 года с мусорной реформой Денис Буцаев вновь возглавил публично-правовую компанию «Российский экологический оператор» (РЭО). Казалось бы, в одну реку дважды...

Не «Открытое сообщество» господина Сороса

Джордж Сорос родился 12 августа 1930 в Будапеште. Американский трейдер, финансист и инвестор. Создатель сети организаций известных как «фонды Сороса». Деятельность Сороса вызывает неоднозначную оценку...

Компания Apple признала брак дисплея в IPhone

Компания Apple запустила программу замены дисплеев для устройств іPhone 11 для пользователей, которые столкнулись с проблемой отсутствия реакции экрана на прикосновения. В корпорации сообщили, что...

Зятя Мишустина связали с делом о махинациях с НДС на рекордную сумму

Бизнесмен Александр Удодов, который приходится зятем премьер-министру и экс-главе ФНС Михаилу Мишустину, подозревается европейскими правоохранителями в причастности к одной из самых крупных афер с...

Золотова обманул генерал: в Росгвардии украли сотни миллионов на поставках формы

Главное военное следственное управление СК расследует дело о закупках обмундирования для Росгвардии. Сделки курировал бывший замдиректора ведомства генерал-лейтенант Сергей Милейко, уже проходящий по другому...