Опасность в коде: ловушка искусственного интеллекта

Примерное время чтения: 06 минут 57 секунд

Хотите всегда быть в курсе событий на рынке IT? Подписывайтесь на наш Telegram-канал!

Искусственный интеллект (ИИ) распахнул двери к неограниченным возможностям – от создания уникального контента до оптимизации работы целых корпораций.

Находится ли человечество на заре технологического процветания или мы неумолимо несемся в антиутопичное будущее?

Скоро узнаем!

Красные флаги нейроимперии

Массовое сокращение
Рекрутеры, менеджеры, авторы контента, IT-специалисты и другие профессионалы бьют тревогу: с развитием искусственного интеллекта возникает опасение относительно возможной потери рабочих мест. Технологии искусственного интеллекта способны не только выполнять простейшие задачи, но и создавать цифровых аватаров, которых становится все сложнее отличить от человека, или заменить работу целого рекламного отдела.

Мы задались вопросом: сможет ли ИИ полноценно заменить сотрудника?

Михаил Круподеров
Бизнес-аналитик ГК Selecty
“Кажется, что ИИ сможет оптимизировать некоторое число персонала и рутинные операции. Скорее всего компании, которые будут использовать ИИ выиграют в конкурентной гонке у тех, кто его не использует. Это приведет к сокращению количества менее технологичных компаний.”

ИИ в плохих руках
Телефонное мошенничество, разработка вредоносного ПО, написание фейковых отзывов и комментариев ботами, появление большого количества недостоверного автосгенерированного контента – лишь верхушка опасных возможностей, которыми могут воспользоваться мошенники для причинения вреда.
Манипуляция без границ
В цифровом пространстве часто встречаются тролли и другие анонимные личности, которые не скрывают своего настроения и выражают свои мысли весьма агрессивно, прибегая к дискриминации, абьюзу и буллингу. Эта ситуация представляет серьезные этические проблемы, поскольку алгоритмы искусственного интеллекта обучаются на общедоступных данных из Интернета, что может привести к распространению негативных установок на широкую аудиторию.
Отпустить нельзя контролировать
Общественность все больше беспокоит проблема ограничения доступа искусственного интеллекта к этическим вопросам конфиденциальности, персональных данных и безопасности. Разработчики должны ответственно выстраивать экологичные границы обучения технологии и правил ее использования.
Все стороны медали
Одиночество - одно из неочевидных последствий. Алгоритмы могут заказывать продукты, рассказывать интересные факты, играть с вами в игры, и это малая часть его повседневного функционала. С одной стороны, ИИ может заменить человеческое общение, но с другой стороны теплота и подлинность контакта могут быть утрачены.

А что у нас хорошего?!

Продуктивность 2.0
ИИ поможет освободить вас от рутинных дел и сфокусироваться на выполнении более комплексных и сложных задач. Чем больше времени, тем лучше будет результат.
Универсальное лекарство
ИИ прямо как медицинский Google. Он может не только выдвинуть предположительный диагноз, но и предложить методы лечения, что позволяет разгрузить врачей от бумажной волокиты и уделить внимание тяжелым случаям.
Большой брат
ИИ всегда на страже кибербезопасности! Он всегда следит за тобой: в реальном времени мониторит огромные массивы данных, ловит подозрительную активность и блокирует попытки хакеров попасть в систему.
24/7
Машины не знают слова "отпуск"! Они могут трудиться в любое время дня и ночи и все равно сохранять прежнюю результативность. Такой работник – мечта любого начальника. А еще можно экономить на кофе!

Мы поинтересовались у нашего бизнес-аналитика, для кого искусственный интеллект может принести наибольшую пользу:

Михаил Круподеров
Бизнес-аналитик ГК Selecty
“Я уверен, что рутинные задачи, которые выполняются сотрудниками могут быть заменены ИИ. В основном это коснется аналитических задач: обработки больших массивов данных, написания текстов, преобразования речи в текст и наоборот. Хотелось бы, чтобы ИИ мог помочь людям с ограниченными возможностями в ориентации на местности, общении и других функциях.”

Где у него кнопка?

В связи с тем, что ИИ имеет неоспоримые преимущества, вводятся ограничения, которые обезопасят человечество от развития Skynet.

В мае 2023 года более сотник экспертов, в том числе глава OpenAI Сэм Альтман, Илон Маск и Стив Возняк, призвали приостановить разработку и развитие искусственного интеллекта на полгода для того, чтобы разработать стандарты безопасности использования данной технологии.

Общественность обеспокоили исследования, которые показали, что существуют системы AI, чей интеллект практически сопоставим с человеческим.

Вопрос политический

Политики и регуляторы тоже осознают необходимость контроля и надзора за развитием ИИ и внедрением его в различные области. Особое внимание уделяется прозрачности алгоритмов и принципов, лежащих в основе систем искусственного интеллекта.

В ноябре 2023 года 28 государств подписали Декларацию Блетчли — первое международное соглашение, направленное на устранение угроз, исходящих от ИИ. В декларации сказано, что страны сосредоточатся на "определении вызывающих обеспокоенность рисков в области безопасности ИИ и разработке общего научного и основанного на доказательствах понимания этих рисков".

В марте 2024 года произошло знаковое событие для сферы искусственного интеллекта — Европарламент подписал закон, который определяет границы использования интеллектуальных технологий.

Это самая масштабная попытка взять под контроль работу не только уже существующих платформ, но и будущих разработок.

Пресс-центр Европарламента

“Закон одновременно защищает от использования ИИ с высоким риском, направлен на стимулирование инноваций, делая Европу лидером в этой области, а также устанавливает обязательства для ИИ-систем в зависимости от их потенциальных рисков и уровня воздействия”

Стоп, ИИ!

Так что же запретили делать искусственному интеллекту?

Например, нельзя собирать фотографии людей из открытого доступа для того, чтобы создавать базы данных распознавания лиц. Исключением являются цели безопасности или предотвращение угроз терроризма. Под запрет попало использование биометрии, которая может привести к политической, религиозной, сексуальной или расовой дискриминации.

21 марта 2024 года Генассамблея ООН приняла резолюцию под названием «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития», которую поддержали 120 стран.

Постпред США при ООН Линда Томас-Гринфилд подчеркнула международную ответственность сообщества взятия ИИ под контроль, чтобы “мы управляли ИИ и не допустили, чтобы он управлял людьми”.

Резолюция призывает обеспечить цифровое преобразование развивающихся стран и их доступа к технологическим инновациям, а также внедрить меры по обеспечению авторского права и конфиденциальности информации.

Россия - вперед!

Президент России Владимир Путин отметил, что развитие ИИ является неотъемлемой частью российской науки.

“(ИИ) Очень важно, очень нужно. И без этого невозможно. Но без фундаментальных исследований, без умения мыслить тех, кто принимает решения, искусственный интеллект многое может сделать, но может многое сделать в направлении развития, которое нам совсем не нужно".

В феврале 2024 года Президент лично утвердил программу развития ИИ до 2030 года, которая включает в себя цифровизацию органов публичной власти, создание реестра апробированных доверенных технологий ИИ и разработку нормативно-правового регулирования данной сферы.