«Гений и злодейство» искусственного интеллекта

На днях мне довелось вступить в спор с… нейросетью. И, знаете, я вышла победителем, а искусственный интеллект признал свою ошибку.

Дело было так. Попалась мне в интернете новость, что филологи назвали самое длинное слово в русском языке. Это прилагательное «тетрагидропиранилциклопентилтетрагидропиридопиридиновые». Не спрашивайте, что это за зверь,  что-то из химии. Главное то, что в слове целых 55 букв. И это на сегодня признано рекордом. Я решила проверить, а нет ли других претендентов на это звание. Спросила у нейросети «Гигачат». Она, недолго думая, выдала мне ответ: «гидразинокарбонилметилбромфенилдигидробенздиазепин» — химическое название лекарства фенозепам, 55 букв. Вижу, что слово другое, а количество указано одинаковое. Значит, в этом рейтинге два лидера? Пересчитываю буквы, получается всего 50. Как же так? Врёт, получается, нейросеть? Задаю вопрос по-другому: «Сколько букв в слове … (ну, не будем повторяться)?». Чат, не моргнув глазом, продолжает врать: «55». Тогда я уже в лоб спрашиваю: «Почему ты утверждаешь, что их 55, если их всего 50?». Давайте посчитаем вместе, говорит чат и делит слово на буквы через чёрточку. «Вы абсолютно правы, моя ошибка, — признаётся нейросеть. — Спасибо за внимательность!». Вот где идеально подходит пословица: доверяй, но проверяй…

Искусственный интеллект и нейросети давно уже переместились со страниц фантастических книг в нашу повседневную реальность. Во многих делах они становятся незаменимыми помощниками.

Хочешь узнать прогноз погоды на месяц? Спроси умную колонку, она всё расскажет. Надо подготовить сообщение для урока? Дай задание нейросети, она всё разложит по полочкам, со вступлением, аргументами и выводом. Нужна иллюстрация? Кисти и фломастеры  это «прошлый век». Изложи нейросети свою идею, и она нарисует всё за несколько секунд. Даже музыку сейчас пишет нейросеть, генерируя гармоничные сочетания из множества музыкальных произведений, загруженных в сеть. В общем, все мы так или иначе является потребителями подобного «продукта». И каждый наслышан про нейросети, ведь теперь их даже по телевизору рекламируют.

Как работает ИИ

Искусственный интеллект (сокращённого его называют ИИ) — это технология, позволяющая компьютерам и программам выполнять задачи, которые обычно требуют человеческого интеллекта: обучение, рассуждение, принятие решений, распознавание речи и образов, анализ и генерация текста.

Но есть важный момент: ИИ, в отличие от человека, не обладает сознанием или эмоциями. Он не «понимает» информацию, а распознаёт шаблоны и статистические закономерности. ИИ анализирует огромные массивы информации, ищет в них закономерности и на их основе «учится». Скажем, если продемонстрировать ИИ тысячи фотографий собак и лисиц, он сможет научиться отличать одно от другого.

Что такое нейросеть

Нейросеть — это один из методов, с помощью которого реализуют ИИ. Она создана по подобию человеческого мозга: данные передаются через множество «искусственных нейронов», объединённых в слои.

В основе нейросети лежат алгоритмы, которые обрабатывают информацию: тексты, изображения, музыку. Она анализирует полученные данные, находит в них закономерности и делает выводы. Особенность в том, что нейросети работают с данными послойно, от простого к сложному.

В чём польза

Искусственный интеллект полезен во многих областях.

Он позволяет автоматизировать рутинные задачи, освобождая человеческие ресурсы для более сложных и творческих видов деятельности. Например, роботизированные системы на заводах собирают автомобили быстрее и точнее, чем люди. Наверняка, делая телефонный звонок в какую-то организацию, вы сталкивались с «роботом». Такие устройства, которые общаются с клиентами по телефону или в интернете, называют чат-ботами. Они помогают клиентам быстро получать ответы на типичные вопросы, снижая нагрузку на сотрудников службы поддержки.

Медицинские технологии с использованием ИИ позволяют повысить точность диагностики заболеваний и эффективность лечения. Например, алгоритмы распознают опухоли на снимках МРТ лучше, чем врачи. А анализ больших объемов данных помогает предсказывать для пациентов риски развития болезней, позволяя вовремя принять профилактические меры.

Активно используют ИИ и для ведения бизнеса. ИИ-аналитика помогает компаниям планировать закупки сырья и товаров с максимальной эффективностью.

Также технологии искусственного интеллекта незаменимы в образовании и науке. Например, для обработки большого объема научной литературы: ИИ способен анализировать тысячи статей одновременно, выявляя закономерности и связи, незаметные человеку.

Опасности ИИ

Несмотря на многочисленные преимущества, использование ИИ связано с рядом рисков и опасностей. Во-первых, люди теряют рабочие места. Автоматизация процессов ведет к снижению потребности в рабочей силе, особенно в сферах производства и услуг. Это вызывает опасения относительно роста безработицы и социальной нестабильности.

Во-вторых, иногда она ведёт к нерациональному принятию решений. Например, кредитная система отказывает заемщикам без объективных оснований. Или алгоритм подбора персонала может исключить кандидатов на работу из-за незначительных факторов, игнорируя важные качества.

В-третьих, вызывает опасение риск утечек и злоупотреблений информацией. Сети собирают и обрабатывают  большие объемы персональных данных. И это, как говорится, может быть использовано против вас. Уже известны случаи, когда мошенники на основе образца голоса генерируют живую речь и звонят родственникам от имени человека. Так же можно сгенерировать изображение и даже видео.

В-четвёртых, ИИ может манипулировать поведением людей. Многие нейросети предназначены для анализа поведения и предпочтений пользователей, чтобы предлагать товары или услуги. Но этот же механизм может использоваться для манипуляции сознанием и навязывания определённых действий или мнений.

В-пятых, этические и правовые вопросы. Кто несет ответственность, если беспилотный автомобиль попадает в аварию? А кто является автором произведения, созданного на основе чужого интеллектуального труда? Такие нюансы требуют решения.

И, пожалуй, нельзя недооценивать риск потери контроля над критическими системами. Применение нейросетей в системах управления транспортом, энергетикой или здравоохранением повышает уязвимость инфраструктуры перед кибератаками, которые могут привести к катастрофическим последствиям. А если, не приведи господь, случится «восстание машин»? Нет уж, лучше не надо…

Почему они обманывают?

Иногда это бывает умышленное распространение дезинформации. Современные нейросети способны создавать реалистичный текст, изображения и даже голосовые реплики, имитирующие реальные события или высказывания конкретных лиц. Есть люди, которые готовы этим воспользоваться в грязных целях.

На чаще всего ошибочные рекомендации и предвзятые решения возникают из-за несовершенства системы. Хотя нейросети обучаются на большом количестве примеров, сами наборы данных часто содержат предубеждения и стереотипы. Эти недостатки могут транслироваться в решениях, принимаемых системой.

Так, нейросеть может выдавать фиктивную информацию, которую принимает за истину, например, неправильные имена учёных или неверные описания исторических событий. Помните скандал с мультфильмом «Маша и медведь»? Ребёнок спросил у умной колонки, где родители мультяшной Маши. Та ответила, что они умерли и стали призраками. Владельцы колонки подняли шум, и не без основания. Но, объективно говоря, в ответе нейросети не было злого умысла, она транслирует то, что находит в интернете (значит, кто-то придумал версию с призраками и выложил в сеть). Просто это очередной урок родителям: будьте внимательнее к игрушкам, которые вы даёте детям.

Генераторы изображений могут создать объекты или сцены, выглядящие абсурдными или нереалистичными. Наверное, многие наслышаны о проблемах нейросети, особенно ранних версий, с изображением человеческих рук. Ну никак не может она сосчитать эти десять пальцев. Поэтому то лишний мизинец пририсует, то расположит кисти рук так замысловато, словно это ветвистое дерево.

Особая категория ошибок связана с медицинскими диагнозами. Нейросеть, натренированная на небольшом объёме клинических данных, выдаёт правильные прогнозы только на тех пациентов, чьи случаи похожи на обучение, но даёт сбой на новых ситуациях. Поэтому никогда не нужно начинать лечение только на основе диагноза от нейросети. Окончательное решение принимает врач.

Прежде чем сдать этот материал в печать, я снова зашла в «Гигачат» и поинтересовалась, сколько букв в слове «гидразинокарбонилметилбромфенилдигидробенздиазепин». На этот раз он утверждает, что 44. «Это неправда», — пишу я, уже не церемонясь. Но нейросеть стоит на своём и просит меня сообщить источники, если у меня другое мнение. По моему настоянию она соглашается пересчитать ладом, создаёт такую длинную табличку и расставляет каждую букву в свою ячейку. Получается ровно 50 строк. И только после этого ИИ признаёт мою правоту и снова благодарит за внимательность. Понятно, что таким образом нейпросеть «учится» и совершенствуется. Думаю, и нам с вами тоже нужно брать с неё пример: учиться, познавать новое и ничего не принимать на веру. Негоже гаджетам быть умнее своего создателя.

Есть примеры, когда слепое доверие искусственному интеллекту реально опасно для жизни. Так, 60-летний мужчина озаботился своим здоровьем и решил исключить из рациона весь хлор. В «чёрный список» попала и поваренная соль — хлорид натрия. Сторонник здорового образа жизни посоветовался с популярной нейросетью на тему, чем заменить хлорид натрия. Нейросеть порекомендовала бромид натрия. Через три месяца использования такого заменителя человек оказался в больнице с тяжелейшими проблемами физического и психического плана. К счастью, медикам удалось его спасти. Как поясняют специалисты, бромид натрия действительно можно использовать вместо соли, но не для пищевых целей, а при производстве чистящих средств или обработки бассейнов. Вот так некорректно заданный вопрос к ИИ чуть не лишил человека жизни.

Как выдумаете, эту картинку нарисовал человек или компьютерная программа?

Если вы уверены, что это нейросеть, то вы абсолютно правы. Отличительная особенность таких изображений — слишком уж идеальная прорисовка и одновременно недостоверные детали. В данном случае «нейрохудожника», как всегда, подвели руки: пальцы выглядят неестественно и их слишком уж много. (Изображение сгенерировано нейросетью «Kandinsky 3.1»)

Материал подготовила Майя ДЕМОЧКИНА