Опасность искусственного интеллекта: люди не знают, как им пользоваться
- Четверг ноября 9th, 2023 16:21
Повседневная жизнь: влияние роботов или искусственного интеллекта на нашу повседневную жизнь уже намного больше, чем многие себе представляют. Фото Л. Баландиса / BNS
От судьи до художника, от композитора до менеджера, от шпиона до военного стратега – таков широкий спектр возможностей постоянно совершенствующегося искусственного интеллекта. Интеграция роботов в повседневную жизнь имеет свою прелесть, однако признается, что неразумное их использование может привести к неприятным неожиданностям.
Награду получил компьютер
Эдита Валинчене, руководитель агентства стратегических коммуникаций и маркетинга «Media dia», рассказала, что в ее работе все чаще используется искусственный интеллект (ИИ).
«ИИ помогает нам, потому что фотографам легче ретушировать фотографии. Из грустного человека можно сделать улыбающегося. Если, скажем, на фоне недостаточно деревьев, не нужно больше самому «приклеивать» эти деревья вручную, мы снова прибегаем к помощи искусственного интеллекта», — сказала Э. Валинчене.
В последнее время искусственный интеллект используется настолько часто, что сложно определить, была ли фотография создана компьютером или человеком.
Для создателей и оценщиков стало холодным душем, когда через некоторое время выяснилось, что фотография, получившая номинацию на престижном мировом фотоконкурсе, была создана компьютером, а не человеком.
Вину признал сам фотограф, представивший эту работу.
«Оказывается, даже самая бдительная комиссия не может определить, кто автор фотографии – компьютер или живой человек. Насколько я понимаю, это становится большим вызовом для мира. Компьютер может создать фикцию, и как доказать, что этого не было?», – сказала Э. Валинчене.
Между реальностью и фикцией
Средства массовой информации как в Литве, так и за рубежом уже некоторое время имеют дело с такими ненастоящими фотографиями, а также с фальшивой и ложной текстовой информацией, которая зачастую является пропагандой, намеренно созданной и распространяемой враждебными странами.
По мнению Э. Валинчене, именно поэтому очень важно научить людей отличать фикцию от реальности в публичном пространстве, необходимо также развивать медиаграмотность.
Создание фейковых новостей и фотографий вносит большую путаницу, поскольку появляются сомнения и в отношении как реальных фотографий, так и реальных фактов.
При этом открываются широкие возможности для манипуляций, когда в программу могут быть загружены данные, не соответствующие истине, то и ответ, который дает ИИ, также неверен, а при отсутствии критического мышления возможности распространять фейковую информацию, новости или пропаганду чрезвычайно высоки.
«Такие опасности существуют, потому что искусственный интеллект – это совершенно новая вещь, еще не до конца изученная, поэтому нужно быть очень осторожными. Если бы база данных была наполнена ложью, несведущий человек просто не понял бы и не различил, что ответ вымышленный, что он не соответствует действительности. Когда-то появились компьютерные вирусы, мы научились от них защищаться, то же самое будет и с ИИ – мы научимся отличать фикцию от правды, потому что каждый раз, когда человечеству преподносится технологическая новинка, бывает страшно, но потребуется время, чтобы научиться к этому приспособиться и уметь его использовать», — сказала художница Юлита Карбаускайте, которая интересуется возможностями искусственного интеллекта.
Необходимо критическое мышление и любознательность, необходимо проверять факты в нескольких источниках, хотя мало кто это делает, поскольку, по мнению Ю. Карбаускайте, пользователей Интернета одолела интеллектуальная лень, и такими пользователями легче манипулировать.
На странице Европейского парламента, посвященной вопросам искусственного интеллекта, говорится, что роботы могут определять, какие онлайн-источники считаются авторитетными, а какие нет, а также выявлять фейковые новости и дезинформацию, анализируя данные социальных сетей на предмет сенсационных или нагнетающих страх слов.
Таким образом, у ИИ, используемого в плохих намерениях, уже есть противоядие.
Творчество: в зарубежных странах уже никого не удивляют выставки произведений искусства, созданных роботами. / Фото Scanpix
У адвоката есть «секретарь»
Искусственный интеллект используется не только для кибербезопасности, автоматического перевода с других языков, онлайн-покупок или рекламы.
Уже есть прототип – компьютерный секретарь юриста.
Этот секретарь действует как помощник юриста, который работает с клиентами онлайн.
Цель чат-бота – узнать и собрать первичную информацию о юридической проблеме клиента.
Робот опрашивает клиентов, чтобы узнать наиболее важную информацию об их ситуации, экономя время и ресурсы, которые обычно тратятся на консультацию с юристом.
Клиенты могут предоставить информацию о своих юридических проблемах в любое удобное для них время, не раскрывая свои персональные данные, а просто разъяснить проблему.
Это дает юристам возможность получить детальное изложение ситуации, дела еще до начала работы с клиентом.
«Оправдал ли себя чат-бот «Секретарь»? В практическом плане нет, поскольку программа не предназначена для монетизации. Это просто демонстрация возможностей. Я считаю, что в будущем юристов частично заменит ИИ. Те боты, которые созданы на базе «ChatGPT», в будущем смогут генерировать и создавать процессуальные документы и даже судебные решения. Пока это не так, sekretorius.lt выполняет только одну функцию – сбор первичной информации, на основании которой можно будет составить претензию или обращение. Я сам уже пробовал такие варианты, но понятно, что если мы сравним документы, созданные человеком и роботом, мы увидим разницу», — заявил адвокат Дмитриюса Богдановаса, который интересуется искусственным интеллектом и пишет об этом книгу.
Будет ли робот писать решения?
Таким образом, «вхождение» искусственного интеллекта в суды только начинается, но желающие уже опробовали ИИ при формулировании судебных решений.
Д. Богдановас привел пример случаев, в которых решаются вопросы содержания несовершеннолетних детей.
Зная особенности и факты дела: возраст ребенка, финансовое положение родителей (доходы, недвижимость, другие иждивенцы), все это добавляется в стандартную матрицу или таблицу, понимаемую искусственным интеллектом, роботом, который определит, какое содержание будет присуждено, или, другими словами, размер алиментов.
По мнению Д. Богданова, именно так устроен человеческий мозг, который может прогнозировать размер назначенных алиментов.
Это называется опытом или интуицией, и робот все точно рассчитает и предскажет решение суда.
«Правда, эти решения еще не идеальны, но это только начало. Я думаю, что однажды роботы будут готовить какие-то решения в судах первой инстанции, а люди смогут обжаловать это решение в вышестоящем суде. Конечно, неблагодарное дело – прогнозировать, когда и где это начнут применять», – сказал Д. Богдановас.
Пока что роботы генерируют короткие судебные решения, редко ссылаясь на практику других судов, поскольку ИИ просто не «видит» этой информации, потому что у него ее нет.
Но роботов, по мнению юриста, нужно «учить» или создавать для них дополнительные инструкции.
«Это очень интересная тема, я интересуюсь ею уже несколько лет, пишу книгу о применении ИИ в юриспруденции, я всего лишь юрист, не программист, но уровень технологий сейчас таков, что даже не будучи программистом, я могу прибегнуть к помощи ИИ в своей непосредственной работе. Это можно применять не только в юриспруденции, сфера применения таких роботов очень широка», – подчеркнул Д. Богдановас.
Картины – безжизненные
Художница Ю. Карбаускайте также подчеркнула, что искусственный интеллект питается загруженной в него информацией.
Поэтому он и является интеллектом, но он искусственный, потому что из имеющейся информации, имеющихся идей он может сформировать что-то другое.
«Да, действительно, он может создать рекламный логотип довольно быстро, однако человек его сделает более уникальным. Но с использованием искусственного интеллекта можно получить массу новых идей. Просто кажется, что чем больше мы будем «кормить» ИИ произведениями искусства, образцами графического дизайна или любой другой информацией из любой области науки, тем больше он будет совершенствоваться. И никто не знает, как будет выглядеть наше будущее вместе с ИИ», – размышляла собеседница.
Ю. Карбаускайте, которая сама изучает графический дизайн, сказала, что может различать произведения визуального искусства, созданные людьми, и произведения искусственного интеллекта.
«Можно увидеть, какой авторский стиль использован в работе, созданной ИИ. Однако по мере развития искусственного интеллекта это станет труднее заметить. Хорошо или плохо этот ИИ? С научной точки зрения это хорошо, потому что экономит время, ускоряет процесс объяснения задач, хотя, конечно, в определенном смысле разрушает наш собственный разум и логическое мышление. А когда дело касается искусства, я не знаю, насколько полезно для людей и общества то, что произведения искусства создаются компьютером, потому что в тех произведениях, которые они создают, нет ни жизни, ни души. Это мое мнение», – сказала Ю. Карбаускайте.
Й. Басанавичюс – лютеранин?
По словам руководителя агентства стратегических коммуникаций и маркетинга Э. Валинчене, людям все еще не хватает знаний об искусственном интеллекте.
Приложение ИИ «ChatGPT», которое можно скачать на мобильный телефон или компьютер, становится чрезвычайно популярным.
Это более широкая база данных, чем «Google», где человек сам ищет и выбирает информацию, а за него это делает искусственный интеллект.
«Однако не следует полностью полагаться на информацию, предоставляемую ИИ, поскольку там много неправды или абстракций. Например, робот предоставил информацию о том, что Йонас Басанавичюс был одним из самых известных лютеран, хотя это неправда. Это произошло потому, что рядом с его фамилией было написано ключевое слово «лютеранин». Поэтому все следует проверять. Проблема не в том, что появился ИИ, а в том, что люди не умеют им пользоваться и не умеют отличать правду от лжи. Также стоит отметить, что присутствует лень, нечестность самого человека, стремление сделать все быстрее, умнее, поэтому используется разум робота», – считает Э. Валинчене.
Она напомнила, что искусственный интеллект все-таки создан людьми, а компьютер на самом деле не умнее человека.
«Когда дело доходит до текстов, ИИ отвечает очень поверхностно, пока что от него нельзя ожидать более глубокого подхода или контекста. Это просто структурированная информация, ответ на которую можно получить за несколько секунд, но нужно уметь ею пользоваться и, главное, ее проверить», - подчеркнула Э. Валинчене.
