Профсоюз государственного персонала Швейцарии

ИИ – не чудодейственный инструмент

Искусственный интеллект может облегчить нашу жизнь во многих областях. Но в этой технологии таятся и многочисленные опасности. Ученый-юрист Флоран Тувенен работает с партнерами по всему миру над разработкой идей о том, как можно оптимально регулировать ИИ.

Когда в конце прошлого года американская компания OpenAI запустила чат-бота ChatGPT, мир был поражен. Многие были удивлены тем, что стало возможным с помощью искусственного интеллекта. Чат-бот можно использовать для создания более или менее сложных текстов, краткого и лаконичного обобщения научных работ, а также для написания программ или перевода их с одного языка программирования на другой. К первоначальной эйфории по поводу возможного сокращения рабочих мест вскоре присоединились страхи и опасения. Хотя чат-бот может имитировать разумное поведение, иногда он просто выдаёт ерунду. Ввиду быстрого развития искусственного интеллекта и социальных рисков, связанных с этой мощной технологией, в открытом письме Американского института будущего жизни содержится призыв к шестимесячной паузе в дальнейшей разработке систем искусственного интеллекта, более мощных, чем ChatGPT4. Это сделано для того, чтобы сделать программное обеспечение более прозрачным и заслуживающим доверия. Среди подписантов публичного заявления такие видные деятели, как израильский историк и писатель Юваль Харари и американский предприниматель Илон Маск.

Однако чат-боты не могут думать. Флоран Тувенен не подписал соглашение. Ученый-правовед уже давно озабочен влиянием алгоритмических систем и искусственного интеллекта на общество, а также проблемами, которые это создает для правовой системы. Тувенен – профессор информационного и коммуникационного права и возглавляет Центр информационных технологий, общества и права (ITSL). Он скептически относится к запрошенной остановке разработки ИИ. «ИИ – не чудо-инструмент, – говорит ученый-юрист, – Чат-боты, подобные ChatGPT, могут очень быстро выполнять множество вычислений, но они не могут ни понимать, ни думать, а также у них нет собственной воли».

Прежде всего, Тувенен видит многочисленные возможности, которые предлагает новая технология. Важно юридически охватить применение искусственного интеллекта таким образом, чтобы можно было использовать возможности и минимизировать риски. Об этом он уже думал в 2021 году вместе с коллегами в позиционном документе Инициативы цифрового общества (DSI). Вместе с партнерами в Японии, Бразилии, Австралии и Израиле он сейчас анализирует в рамках «Проекта политики ИИ» то, как различные правовые системы реагируют на большой прогресс в развитии ИИ. В исследовании рассматриваются государства, которые, как и Швейцария, должны тщательно подумать о том, как они хотят позиционировать себя по отношению к регулирующим сверхдержавам ЕС и США, чтобы способствовать развитию этих технологий и в то же время защищать своих граждан от недостатков системы.

Политическая дискуссия по этой важной теме во многих местах все еще находится на ранней стадии. Это касается и Швейцарии. Дальше всего регулирование продвинулось в ЕС. В июне парламентарии ЕС одобрили проект первого в мире закона об искусственном интеллекте. Это предложение сейчас обсуждается с представителями стран-членов и Комиссией ЕС – цель состоит в том, чтобы заинтересованные стороны согласовали юридический текст к концу года. Закон ЕС об искусственном интеллекте фокусируется на рисках, создаваемых искусственным интеллектом, и делит их на четыре категории: неприемлемые риски (сюда входят, например, системы искусственного интеллекта, которые могут использоваться правоохранительными органами для наблюдения за людьми в общественных местах в режиме реального времени с целью их идентификации) посредством биометрического дистанционного распознавания для приложений с низким уровнем риска. Чат-боты, такие как ChatGPT, останутся разрешенными в этом правиле, но им придется стать более прозрачными (например, сделав дипфейки узнаваемыми).

Предотвращение дискриминации

Флоран Тувенен критически относится к предложению Европейского Союза. «ЕС пытается регулировать технологию как таковую в своем законе об искусственном интеллекте, – говорит ученый-юрист, – который требует, чтобы сначала вы дали определение искусственному интеллекту». Кажется, это не имеет особого смысла, поскольку технологии быстро развиваются, а определения и многие стандарты, содержащиеся в законе, так же быстро устаревают. Эта проблема стала ясна в ходе работы над проектами закона об ИИ, в которых использовались разные определения искусственного интеллекта. Когда определение было согласовано, появился ChatGPT, и определение пришлось снова фундаментально пересмотреть. Тувенен: «Существует риск того, что закон об ИИ будет препятствовать развитию и использованию технологии и вызовет массу бюрократических усилий – без решения конкретных проблем». Например, когда речь идет о предотвращении дискриминации – например, при поиске работы. Крупные компании уже используют системы искусственного интеллекта для выбора приложений. Эти системы могут дискриминировать людей, если они были обучены на данных, содержащих предвзятость.

Хорошо известным примером является дискриминация женщин при приеме на работу в области компьютерных наук, поскольку данные, используемые для обучения систем, показывают, что на работу нанимается больше мужчин, чем женщин. «Это проблематично, – говорит Тувенен. – Нам нужно найти решения этих и подобных конкретных проблем». Например, дополнив закон о защите данных новым принципом, согласно которому никто не может подвергаться юридически значимой дискриминации на основании его или ее личных данных. Благодаря ИИ правовую систему в Швейцарии не придется переосмысливать, а необходимо обеспечить, чтобы существующие нормы работали и в этом контексте, убежден ученый-правовед. Некоторые стандарты и законы придется адаптировать к новым возможностям, которые открывает ИИ. Другим достаточно, если суды разумно будут применять существующие нормы к новым явлениям.

Разработка новых идей

Швейцария еще не приступила к всестороннему анализу проблемы ИИ и разработке подходящих юридических решений. Многие другие страны находятся в такой же ситуации. «Страны в других частях мира часто имеют совершенно иной взгляд на проблему ИИ, чем мы здесь, в Европе», – говорит Тувенен. Поэтому в ходе предстоящих политических дискуссий будет полезно увидеть, как различные правовые системы и культуры относятся к ИИ. Чтобы пролить свет на это разнообразие, он и его коллега из Цюриха Питер Пихт запустили проект AI Policy вместе с исследователями из Киотского университета в Японии. Сейчас возникла небольшая сеть, в которую также входят ученые из Австралии, Израиля и Бразилии.

«В Японии, например, люди воспринимают феномен ИИ совсем иначе, чем мы здесь, – говорит Тувенен, – там возлагают большие надежды на технологию». И в отличие от Европы, дискуссия вокруг ИИ гораздо меньше касается отдельных людей, а гораздо больше – коллектива. Это стало ясно ученому-юристу, когда он рассказал своим японским коллегам об опасности манипуляций со стороны искусственного интеллекта. «Для нас в этом контексте речь идет, прежде всего, об индивидууме и его автономии в мышлении и действии, – говорит Тувенен. – Если это ограничить, мы находим это крайне проблематичным». Однако в Японии автономия личности не так важна, и манипулирование гражданами имело бы смысл, если бы от этого выиграло все общество. Например, когда людей «подталкивают» в цифровом формате, получая определенную информацию, которая направляет их поведение в желаемом направлении. Тувенен убежден, что такой необычный для нас взгляд на ИИ мог бы также обогатить дискуссию в Швейцарии. «Глобальная перспектива может помочь нам лучше оценить масштаб наших действий и помочь нам разработать новые интересные идеи при работе с ИИ».

Исследователи проекта AI Policy в настоящее время разрабатывают веб-сайт, на котором собраны различные подходы и идеи решений, обсуждаемые в странах-участницах. В будущем этот сайт будет дополнен позициями других стран. Целью платформы является стимулирование регуляторного дискурса на международном уровне и поддержка лиц, принимающих решения в политике, бизнесе и ассоциациях, в дифференцированном и информированном подходе к этой теме. Также в Швейцарии, где федеральная администрация к концу следующего года разработает политическую основу и покажет необходимость действий и возможных мер.

Перевод помощника Председателя Профсоюза по международной работе Е. Иванниковой