Права и свободы человека в ситуации злоупотребления использованием технологий ИИ: как получилось, что ИИ стал угрозой гражданскому обществу?

Кулешова Анна Викторовна
кандидат социологических наук, руководитель департамента издательских программ ВЦИОМ, председатель Совета по этике научных публикаций, член Комиссии РАН по противодействию фальсификации научных исследований, Москва, Россия
kuleshovaav@gmail.com


Аннотация
Говоря о цифровизации и ее влиянии на человека, нельзя не затронуть тему намеренного вмешательства в личное информационное пространство. Мы все видим, насколько быстро и масштабно вспыхивают и распространяются конфликты, связанные с появлением «новой этики». Это и Black Lives Matter, и скандал вокруг высказываний писательницы Роулинг, и многое другое. При этом некоторые аспекты «новой этики» проникают в весьма неожиданные области. Например, в ИТ традиционно существовала терминология, связанная с Black/White lists (списки запретов и разрешений), Master-Slave архитектура (когда один сервис является ведущим, управляющим, а второй — подчиненным, вторичным). Сейчас внезапно оказалось, что их надо срочно заменить в связи с их новым прочтением со стороны адептов «новой этики». И если раньше каждый из людей/сообществ мог самостоятельно определить для себя, какие из новомодных тенденций принимать, а какие игнорировать, то в связи с трансфером общения и коммуникаций в единые цифровые среды (соцсети и проч.) появилась возможность масштабной цензуры. По решению десятка крупнейших компаний допустимо «отправить в бан» (жестко цензурировать) любые нежелательные идеи и темы для обсуждений. То есть пространство, в котором мы можем договариваться и находить общий язык (а это почти всегда именно текстовое пространство), оказывается отформатировано под видение узкой группы лиц, принимающих решения в отношении остальных людей. Нежелательные по тем или иным причинам темы «стираются» полностью из цифрового пространства, иногда вместе с самими цифровыми субъектами (удаление аккаунтов). Причем нужно понимать, что подобной цензуре могут подвергаться не только текстовые публичные высказывания, но и любые изображения (например, в Facebook регулярно под запретом оказываются произведения искусства, касающиеся эротики и смерти), аудио- и видеоматериалы (не только публичные, но и в рамках частной переписки). О подобных инструментах контроля за идеями могли только мечтать авторитарные правители прошлого.

Ключевые слова: искусственный интеллект, права, этика