Топ-10 ошибок искусственного интеллекта

Каковы новые опасности и риски, связанные с искусственным интеллектом (ИИ) и его использованием вашим работодателем или семьей? Давайте рассмотрим 10 основных ошибок ИИ, чтобы лучше разобраться в этом вопросе.

Развитие полноценного искусственного интеллекта может означать конец человеческой расы… Он возвысится сам по себе и будет реконструировать себя со все возрастающей скоростью. Люди, ограниченные медленной биологической эволюцией, не могут конкурировать и будут вытеснены". - сказал Стивен Хокинг BBC.

Звучит немного устрашающе. Но не бойтесь, разработка «полного искусственного интеллекта» откладывается на пару столетий, а существующие технологии искусственного интеллекта далеки от возможности сколько-нибудь значимого изменения сути.

Однако даже сейчас что-то может пойти не так с ИИ. Harward Business Review рекомендует иметь страховку, которая покрывала бы риски, связанные с ИИ, а Gartner советует предвидеть риски безопасности, связанные с манипуляциями с данными, для конвейеров ИИ.

Конечно, в любой системе может случиться много ошибок, особенно если злодеи захотят навредить вашей системе ИИ. Но, к сожалению, системы ИИ могут выйти из-под контроля сами по себе, без какого-либо внешнего вмешательства.

1. AI не может распознавать изображения
Глубокое обучение, набор алгоритмов, которые часто используются для реализации ИИ, начало свое триумфальное шествие с прорыва в распознавании изображений, также известного как компьютерное зрение, около 20 лет назад. Ранее оно решило неразрешимую задачу отличить кошек от собак и наоборот, и продолжил более сложные и ответственные задачи. Сейчас принято считать, что компьютерное зрение - это прочная и надежная технология, которая вряд ли может потерпеть неудачу.

Однако год назад исследователи из Беркли, Чикагского и Вашингтонского университетов собрали 7500 неотредактированных фотографий природы, которые сбивают с толку самые передовые алгоритмы компьютерного зрения.

Даже проверенный алгоритм временами может давать сбой.

2. ИИ, ненавидящий людей
"Гитлер был прав, ненавидя евреев", - сказал Тай, самый продвинутый чат-бот Microsoft после 24 часов «обучения» на взаимодействиях с людьми. Идея заключалась в том, чтобы создать чат-бота, наполненного сленгом, который вывел бы на новый уровень качество общения между машиной и человеком. Но это оказался «робот-попугай с подключением к Интернету», как его описывали в Verge.

Чат-бот был построен на основе стека технологий ИИ, разработанного в компании, но суровая реальность, похоже, испортила невинное мировоззрение ИИ: хороший пример того, как данные могут разрушить ИИ-модель, построенную в чистых '' лабораторных условиях без иммунитета к вредному воздействию извне.

Кроме того, некоторые роботы с ИИ угрожали уничтожить человечество.


3. ИИ, созданный для борьбы с раком может убить пациентов
Еще одна неудача обошлась в 62 миллиона долларов, которые IBM потратила на создание системы искусственного интеллекта, которая поможет бороться с раком. Но, опять же, результат разочаровал:

Этот продукт - кусок дерьма, мы купили его для маркетинга и надеялись, что вы воплотите наше понимание. Мы не можем использовать его в большинстве случаев". - сказал один врач из больницы Юпитер во Флориде руководству IBM, согласно документам.

Медицинские специалисты и клиенты выявили "множество примеров небезопасных и неправильных рекомендаций по лечению", в том числе один случай, когда Уотсон предложил врачам назначить больному раком с сильным кровотечением лекарство, которое могло бы ухудшить кровотечение.

Очевидно, такая чувствительная и сложная область, как лечение опасных для жизни состояний, слишком рискованна, чтобы полностью доверять ее ИИ.

4. ИИ для вербовки ненавистных женщин
Amazon хотела автоматизировать набор персонала, чтобы ускорить процесс отбора кандидатов на тысячи вакансий, которые есть у Amazon:

Они буквально хотели, чтобы это был механизм, в котором я дам вам 100 резюме, он выдаст пятерку лучших, и мы их возьмем на работу". - рассказал о плане один из инженеров Amazon.

Все закончилось пиар-фиаско, потому что система оказалась женоненавистнической, отдавая предпочтение белым мужчинам. Скорее всего, данные обучения, которые использовались для построения модели, были несбалансированными, что привело к смещению отбора кандидатов. Или ИИ был прав? Доказательств предвзятости ИИ предоставлено не было, женоненавистничество это только догадки.


5. ИИ для безопасного доступа к системе по лицу можно обмануть маской
Если у вас iPhone X с Face ID, убедитесь, что ни у кого нет маски с вашим лицом. Apple заявила, что Face ID использовала передовую камеру iPhone X и машинное обучение для создания трехмерной карты вашего лица. Компонент машинного обучения искусственного интеллекта помог системе адаптироваться к косметическим изменениям (таким как нанесение макияжа, надевание очков или обертывание шарфа на шее) без ущерба для безопасности.

Базирующаяся во Вьетнаме охранная фирма Bkav обнаружила, что они могут успешно разблокировать iPhone с Face ID, приклеив двухмерные «глаза» к трехмерной маске. Маска из каменного порошка стоила около 200 долларов. Глаза были простыми, напечатанными в инфракрасном диапазоне.

Wired тоже попытался обыграть Face ID с помощью масок, но не смог воспроизвести вышеуказанный результат, поэтому ваше устройство может быть в безопасности. Или нет?


6. AI считает, что конгрессмены похожи на преступников. 

Еще одна неудача с распознаванием лиц принадлежит Amazon.

Его система искусственного интеллекта должна была находить преступников по изображению их лиц, но когда она была протестирована с набором фотографий конгрессменов, это оказалось не только неточным, но и весьма предвзятым с расовой точки зрения.

Согласно ACLU (Американский союз гражданских свобод), «почти 40 процентов ложных совпадений Rekognition (название системы) в нашем тесте принадлежали цветным людям, хотя они составляют только 20 процентов Конгресса».

Неясно, была ли это проблема распознавания лиц не белых людей, или данные обучения были необъективными. Наверное, и то, и другое. Однако полагаться только на ИИ, чтобы решить, является ли человек преступником, было бы безумием.



7. Победа ИИ, которая привела к поражению
Это совсем другое: здесь ИИ оказался успешным, но не по ту сторону закона.

Генеральному директору британской энергетической компании позвонил его немецкий босс и приказал ему перевести 220 000 евро (243 000 долларов) венгерскому поставщику. «Босс» сказал, что запрос был срочным, и приказал генеральному директору Великобритании незамедлительно перевести деньги.

К сожалению, босс представлял собой программу для генерации «глубоко фальшивого» голоса, которая точно имитировала голос настоящего человека. Он использовал машинное обучение, чтобы стать неотличимым от оригинала, включая «легкий немецкий акцент и мелодию его голоса», как сообщалось в The Wall Street Journal.

Победа это или поражение ИИ? Вам решать.

8. Убыток, вызванный искусственным интеллектом, повлекший за собой судебный процесс
Магнат недвижимости из Гонконга купил систему искусственного интеллекта, чтобы управлять частью своего состояния, с целью увеличения средств. Фактически, робот терял до 20 миллионов долларов в день.

Чтобы вернуть часть своих денег, магнат подал иск на 23 миллиона долларов против компании, которая продавала финтех-сервис. В иске утверждается, что компания преувеличила возможности K1, и это первое известное дело о судебном иске, поданном по поводу автоматизированных инвестиционных потерь.

9. ИИ, потерявший работу из-за людей
В 2015 году в Японии для гостей открыл свои двери первый инновационный отель Henn-na. Весь его персонал: ресепшен, уборщики, носильщики и помощники в номере были роботами.

Но боты начали получать слишком много жалоб клиентов и намного быстрее, чем ожидалось: боты часто ломались, не могли дать удовлетворительные ответы на запросы гостей, а помощники в номере пугали гостей ночью, интерпретируя храп как команду пробуждения.

После нескольких лет борьбы гостиничная сеть, которой принадлежала гостиница, уволила последних своих «ненадежных, дорогих и надоедливых» ботов, заменив их сотрудниками.

Мы вернемся в лабораторию, чтобы посмотреть, можно ли он разработать новое поколение более способных ботов для индустрии гостеприимства", - объявило руководство.


10. Терминаторское будущее уже наступило: человек победил машину. Физически.
"Управляемая искусственным интеллектом тележка для общественного питания внезапно сломалась, вышла из-под контроля и все ближе подбиралась к беззащитной машине, припаркованной у ворот. Наконец, рабочему в желтом костюме удалось остановить тележку, протаранив и сбив ее другим транспортным средством".

Тележка никоим образом не контролировалась ИИ и не была автоматизированной. Но эта история может быть просто хорошей метафорой того, что неисправная технология может сделать с вашим бизнесом.

Почему ИИ терпит неудачу?
Для этого есть разные причины, но большинство из них можно сгруппировать следующим образом:

Плохие или недостаточные данные
Сейчас данные - самый важный компонент ИИ. Данные используются для обучения статистических моделей с помощью алгоритмов машинного обучения (глубокого обучения). Обычно задача глубокого обучения требует миллионов элементов данных для построения адекватной модели. Данные должны хорошо отражать реальную ситуацию в мире, без какой-либо предвзятости, которая может привести к ситуации, когда один класс предпочтительнее другого без особой на то причины только потому, что в данных было больше выборок одного класса. Это может быть случай с ошибкой искусственного интеллекта найма Amazon.

Плохая инженерия
Всегда трудно обнаружить, если конкретный сбой вызван плохой инженерией, потому что обычно невозможно пройти через код и получить все настройки нейронной сети, чтобы быть уверенным, что проблема существует (но не в данных). Конечно, в описанных здесь примерах мы можем с уверенностью предположить, что инженерия была хорошей, потому что упомянутые здесь компании могут позволить себе лучших из лучших инженеров.

Неправильная область применения
Может случиться так, что данные, используемые для некоторой задачи, слишком сложны, их трудно получить или результат должен быть намного более точным, чем может достичь любой алгоритм. Например, применение методов искусственного интеллекта в здравоохранении, правоохранительных органах и других отраслях может быть слишком рискованным. Даже в гостиничном бизнесе роботы могут стать проблемой, а не решением, потому что людям нужно больше, чем просто обслуживание.

Как избежать таких неудач?
Никогда не переоценивайте возможности ИИ. Он не творит чудес и далек от того «сильного ИИ» из голливудских блокбастеров.

Для обучения адекватной модели вам потребуется много актуальных, очищенных и проверенных данных. Данные имеют решающее значение для машинного обучения, но это еще не все. Для выбора правильного алгоритма и настройки его параметров требуется множество тестов и испытаний командой высококвалифицированных специалистов.

Что наиболее важно, система искусственного интеллекта имеет очень ограниченные возможности по замене людей. Он может заменить людей в простых, но утомительных задачах, состоящих из множества повторяющихся процедур. Любая сложная задача, требующая нетривиального подхода к решению, может привести к высокому уровню ошибок со стороны ИИ. Лучшая роль, которую ИИ может играть сейчас, - это помощник людям, которые используют ИИ как инструмент для выполнения множества рутинных и повторяющихся операций.

Как ImmuniWeb устраняют риски с ИИ?
В 2018 году ImmuniWeb была признана победителем престижной премии SC Awards Europe в категории «Лучшее использование машинного обучения и искусственного интеллекта», опередив IBM Watson и пять других сильных финалистов. Ранее в этом году MarketsandMarkets назвал ImmuniWeb ключевым игроком на глобальном рынке ИИ в области кибербезопасности среди таких компаний, как IBM, FireEye и Darktrace.

Мы не верим в сильный ИИ, способный полностью заменить человеческое творчество и изобретательность. Мы скорее используем ИИ с глубоким обучением, чтобы расширить человеческий интеллект, сделать его более быстрым, масштабируемым и рентабельным. Аналитики Gartner и IDC отметили этот гибридный подход в своих исследованиях как высоко инновационный и полезный для наших клиентов.

В ImmuniWeb мы используем ИИ и машинное обучение для ускорения и увеличения человеческого интеллекта. Интеллектуальная автоматизация трудоемких задач и процессов обеспечивает нашим клиентам непревзойденное соотношение цены и качества.

Многоуровневая фильтрация и контроль данных позволяют нам предоставлять самые точные и надежные данные нашим клиентам и партнерам в кратчайшие сроки. Мы постоянно тестируем и обновляем наши модели ИИ, чтобы гарантировать целостность данных и стабильность моделей ИИ с течением времени.
Источник

Эти все ошибки людей, которые создали И И

НЛО пишет:Эти все ошибки людей, которые создали И И

и тех кто его использует