Развитие искусственного интеллекта не может зависеть от капризов рынка
- Пятница сентября 20th, 2024 16:52
Эксперты ООН предупреждают: развитие искусственного интеллекта не может зависеть от капризов рынка. Фото Pixabay
Эксперты ООН предупредили в четверг, что искусственный интеллект (ИИ) не следует разрабатывать исключительно с учетом рынка, и призвали к созданию инструментов для глобального сотрудничества.
Однако они воздержались от предложения о создании глобального руководящего органа для наблюдения за внедрением и улучшением технологии.
Доступность инструментов искусственного интеллекта уже вызывает опасения, что технология может быть предвзятой, неправильно использоваться или вызывать зависимость.
В октябре Генеральный секретарь ООН Антониу Гутерриш созвал группу примерно из 40 экспертов в области технологий, права и защиты данных.
Их отчет, опубликованный всего за несколько дней до начала Саммита будущего, вызывает обеспокоенность по поводу отсутствия глобального управления искусственным интеллектом, а также того факта, что развивающиеся страны фактически исключены из дискуссий о будущем технологии.
Из 193 членов ООН только семь участвуют в семи основных инициативах, связанных с ИИ, а 118, в основном страны Южного полушария, не участвуют вообще.
В своем докладе эксперты предупреждают, что «в настоящее время отсутствует глобальное управление в области ИИ», которое носит межгосударственный характер.
«ИИ должен служить человечеству правильно и безопасно», – заявил на этой неделе А. Гутерриш.
«Опасности, исходящие от искусственного интеллекта, если их не остановить, могут угрожать демократии, миру и стабильности», – отметил он.
Необходимо готовиться, пока не поздно
В ответ на этот призыв эксперты призвали членов ООН разработать механизмы, которые помогут обеспечить глобальное сотрудничество по этому вопросу и предотвратить незапланированное распространение оружия.
«Разработка, внедрение и использование такой технологии не может зависеть только от прихотей рынка», — говорится в отчете.
Сначала в нем звучит призыв к созданию группы научных экспертов по искусственному интеллекту согласно примеру экспертного форума Межправительственной группы экспертов ООН по изменению климата (МГЭИК), в чьих отчетах обобщаются цели в области изменения климата.
Экспертная группа будет информировать международное сообщество о возникающих опасностях, определять целесообразность проведения научных исследований, а также то, как их можно использовать для сокращения голода, бедности и гендерного неравенства.
Это предложение включено во все еще обсуждаемый проект Глобального цифрового договора, который, как ожидается, будет одобрен на Саммите будущего ООН в воскресенье.
В докладе предлагается создать небольшую координационную структуру в рамках Секретариата ООН.
Однако это не полноценный международный орган управления, как того добивается А. Гутерриш, основанный на модели международного агентства по атомной энергии (МАГАТЭ), наблюдающей за атомной энергией организацией ООН.
«Если вызываемые ИИ риски станут более серьезными и концентрированными, государствам-членам, возможно, придется рассмотреть возможность создания более сильного международного органа, который будет иметь полномочия по обеспечению мониторинга, отчетности, проверки и исполнения», – говорится в отчете.
Его авторы признают, что сама скорость изменений в ИИ делает бессмысленными попытки составить исчерпывающий список опасностей, которые представляют собой постоянно развивающиеся технологии.
Однако они обратили внимание на угрозу демократии из-за быстрого распространения дезинформации, всё более реалистичных дипфейковых (англ. deepfake) продуктов, особенно порнографического характера, а также развития автономных систем вооружения и использования искусственного интеллекта криминальными и террористическими группировками.
«Однако, учитывая скорость, автономность и непрозрачность систем искусственного интеллекта, ожидание возникновения угрозы может означать, что любой ответ будет слишком запоздалым», – говорится в отчете.
«Постоянные научные оценки и политический диалог гарантировали бы, что мир не столкнется с такими неприятными сюрпризами», – подчеркивается в отчете.
Партнеры
