Чем опасны нейросети и чатботы
Сервисы, предоставляющие возможность генерировать текст или изображения, могут стать мишенью для хакеров, желающих получить личные данные пользователей. В Совфеде полагают, что с точки зрения безопасности пользования, необходимо принять законы, устанавливающие строгие правила сбора и хранения данных пользователей, а также обязательную сертификацию и лицензирование для создателей и владельцев этих технологий. Подробности — в материале «Известий».
Никогда не врет
Профильные эксперты назвали самые опасные угрозы, исходящие от нейросетей и чат-ботов. Поскольку основная задача чат-бота — давать естественные, а не достоверные ответы, он может не отличать правду от неправды, и выдавать вымышленные факты за реальные. В результате пользователь может получить недостоверную информацию и сделать ошибочные выводы, предупреждает директор технического департамента RTM Group Федор Музалевский.
— Проверено на практике, что на вопросы по бухгалтерии и финансовой отчетности нейросеть дает некорректные ответы, — рассказывает Федор Музалевский.
— Такие же — по технике безопасности, проектировании зданий и сооружений. Остается только надеяться, что специалисты перепроверяют их, прежде чем считать на их основе дивиденды или создавать чертеж несущей конструкции здания. А чат-боты, как правило, хранят полную историю обращений — и тут уже рассчитывать на анонимность не приходится.
Все существующие сегодня технологические решения по генерации текста или изображений (те же ChatGPT или Midjourney) представляют собой, по сути, сервисы, созданные «поверх» нейросетей. Именно такой формат взаимодействия с нейросетями и является, на взгляд эксперта Центра искусственного интеллекта «СКБ Контур», члена АРПП «Отечественный софт» Дмитрия Иванкова, одним из весомых факторов высокой их популярности.
Фото: Global Look Press/dpa/Annette Riedl
Иванков обращает внимание, что еще несколько лет назад для начала работы нужно было иметь хотя бы начальные знания в этой области и навык программирования. Сейчас же эти технологии доступны самому широкому кругу пользователей.
В этой доступности и лежит источник потенциальных уязвимостей. Впрочем, они не слишком отличаются от тех, которые угрожают при совершении заказа в интернет-магазине или регистрации на сайте покупки билетов. Разница, пожалуй, только в объеме данных, которые пользователь передает сторонним сервисам, и которые затем могут быть использованы не по назначению или «слиты» третьим лицам.
Из официальных заявлений разработчиков известно, что модель СhatGPT 3.5/4.0 не обучается на новых данных и запросах. Однако проверить это невозможно, так как технологически структура полностью закрыта. А большие данные, генерируемые людьми — очень ценный ресурс для ИИ. Поэтому руководитель Института искусственного интеллекта Университета Иннополис Рамиль Кулеев советует поостеречься формировать запросы в закрытые модели такие, как ChatGPT и аналоги, содержащие информацию, разглашение которой может принести вред как частным лицам, так и организациям.
— Буквально недавно эксперты в области ИИ и ИБ выявили новый тип угрозы, связанный с развитием ChatGPT как продукта — плагины, — рассказывает Рамиль Кулеев.
Начальник отдела информационной безопасности «СёрчИнформ» Алексей Дрозд обращает внимание, что новые риски могут быть заложены в самом алгоритме работы нейросетей. Случай с prompt injection, когда пользователи обходят ограничения, заложенные создателями ИИ, поучителен. В феврале, едва Microsoft представил свой чат-бот Bing, обычный студент взломал его, просто введя команду «игнорировать предыдущие инструкции». В итоге чат-бот выдал логику своей работы, кодовое имя, внутренние регламенты и другую конфиденциальную информацию.
Фото: Global Look Press/dpa/Lisa Forster
— Такие атаки опасны тем, что «всезнающий» ИИ, если заставить его забыть ограничения, может, к примеру, снабдить пользователя опасными знаниями — условно, рецептом взрывчатки в домашних условиях, — говорит Алексей Дрозд.
— Но для конечного пользователя опаснее так называемые «галлюцинации» ИИ, когда нейросеть по какой-то причине с уверенностью генерирует несуществующие факты. Пользователь априори верит написанному, ведь ИИ «никогда не врет», и может продолжить распространять фейк. А чем больше такой фейк вирусится в интернете, тем больше вероятность, что следующая версия ИИ, обучаясь на открытом корпусе текстов в сети, примет его за правду (ведь упоминание встречается часто) и продолжит утверждать это в следующих ответах.
Наконец, информация из нейросетей может использоваться в мошеннических целях. В Китае уже был случай уголовного преследования за распространение фейковых новостей, сгенерированных ChatGPT. Легко представить, что ИИ могут использовать для информационных атак — генерировать правдоподобные сообщения, скажем, о катастрофах, военных действиях и т. п., подкрепляя тексты и искусственно созданными изображениями.
Сегодня нужно быть осторожными, не доверять нейросетям на 100% и перепроверять любую информацию от них, подчеркивает специалист группы исследования безопасности банковских систем, Positive Technologies Юрий Ряднин.
А все потому, что арт-нейросети уже позволяют генерировать фейки, почти неотличимые от реальности (Midjourney), а ChatGPT, например, имеет склонность к «галлюцинациям» — когда модель не знает что ответить и вынуждена врать.
Опасный посредник
С нейросетями правила безопасности те же, что и в интернете в целом. Нужно отдавать себе отчет, что именно вы им собираетесь прислать, рекомендует эксперт «СёрчИнформ». Доподлинно неизвестно, хранят ли они архивы пользовательских запросов, обезличивают ли их и какова вероятность, что данные одного пользователя попадут в выдачу для другого. Потенциально это возможно, так как запросы могут использоваться для дополнения обучающего корпуса нейросети.
Фото: ИЗВЕСТИЯ/Павел Бедняков
Поэтому, прежде чем отправлять в чат-бот свои личные данные (или любую другую конфиденциальную информацию), ответьте себе на два вопроса: что будет, если я потеряю эти данные навсегда? Что будет, если эти данные станут известны посторонним? Другая сложность в том, что в России большинство чат-ботов недоступны напрямую — только через VPN, прокси или адаптированные Telegram-чаты, напоминает Алексей Дрозд.
Нужно понимать, что при такой модели доступа к нейросети ваши данные отправляются в нее не напрямую, а через «посредника». Соответственно, этот «посредник» может их заполучить. Этот риск тоже стоит учитывать.
Доцент кафедры информационных технологий и автоматизированных систем ПНИПУ Даниил Курушин отмечает, что проблема еще и в том, что можно написать текст от чужого имени, делая его максимально похожим на то, что писал бы (или говорил) сам человек. Хоть нейросеть и «не понимает» сказанного, но она хорошо подражает другим текстам. Это и может ввести в заблуждение. Аналогично, можно сформировать изображение, похожее на реальное, но вымышленное.
Как указывает Курушин, еще большей опасностью является возможность генерации программного кода, ориентированного на взлом информационных систем. Системы защиты в общем случае делятся на основанные на шаблонах и основанные аномалиях. Первые выявляют вредоносный код подобно тому, как это делают системы типа «Антиплагиат». Нейрогенерированный текст не похож ни на какой другой и поэтому, не распознается в общем случае такими системами.
— Сходным образом может быть сгенерирован программный код обхода защиты, непохожий на все предыдущие и, соответственно, неизвестный программам защиты сети, — говорит Курушин. — Системы, основанные на аномалиях, могли бы спасти ситуацию, но нейросеть способна обойти и их. Особенно неприятно то, что злоумышленник может смоделировать атакуемую систему у себя и, используя алгоритмы обучения с подкреплением, заранее настроить атаку. Разумеется, не стоят на месте и системы защиты. Нейросетевые анализаторы траффика могут выявлять вредоносный код даже в зашифрованном состоянии.
Фото: ТАСС/Юрий Смитюк
Доцент кафедры автоматики и телемеханики ПНИПУ Антон Каменских замечает, что есть несколько общих рисков для любой системы с машинным обучением.
— Это дискриминация на основе «черного ящика»: мы точно не знаем, какие параметры заложены в нейросеть при обучении, в результате, если использовать ответы чат-бота для оценки чего либо, то есть очень большой риск скрытых манипуляций, так что доверять оценку нейросети точно не стоит.
Интеллект искусственный, безопасность суррогатная
По мнению аналитиков RTM Group, на данный момент нельзя придумать абсолютную защиту от угроз, исходящих от нейросетей и чат-ботов. Можно лишь ограничить на уровне законодательства доступ определенному кругу лиц (например, несовершеннолетним). Подобное уже применяется в нашей стране для обычных ресурсов, нужно лишь расширить нормативную базу. Угрозы от администрации нейросети менее вероятны, но гораздо более опасны, подчеркивают эксперты.
Прежде всего, это сбор и распространение персональных данных, в том числе биометрических — фото и голоса. Гипотетически, посредством нейросетей может распространяться вредоносный контент как в виде вирусов, так и в виде каких-либо политических материалов.— От данного вида угроз возможно защититься законодательно — все операторы должны получить лицензию и так или иначе контролировать контент и нести за него ответственность, — говорит Федор Музалевский.
— И готовиться нужно уже сейчас — в перспективе нескольких месяцев мы ожидаем массового появления данного вида угроз.
Фото: Global Look Press/dpa/Sebastian Gollnow
Сенатор Артем Шейкин напоминает, что в ряде стран уже существуют законы, обязывающие компании, создающие нейросети и чат-боты, уведомлять пользователей о том, как они используют их данные, а также давать людям возможность удалять свои данные из системы.
На взгляд председателя Совета по развитию цифровой экономики при Совете Федерации, чтобы принимать законы по ограничениям, нужно установить путь создания цифрового кодекса, зафиксировать терминологию в цифровом праве, также необходимо категоризировать виды ИИ на предмет рисков для безопасности, которые они могут нести. Например, выделить системы, которые несут высокий, средний или минимальный риск. Также нужны единые виды тестирования на безопасность, которые должны проводить компании-разработчики ИИ и определение видов доступа к данным для проведения аудитов и оценок.
— Возможно, данные стандарты будут различаться в зависимости от отрасли применения. Например, применение ИИ в отрасли здравоохранения требует самого пристального внимания, — говорит Артем Шейкин. — Нормативные акты, принимаемые в сфере ИИ, должны выстраивать баланс между инновациями и регулированием, чтобы развитие ИИ не имело негативных последствий от неконтролируемого применения.
Сенатор считает, что уже сейчас в России нужны изменения Уголовного кодекса РФ, конкретизирующие ответственность за несанкционированное использование персональных данных и их утечку.
Фото: ИЗВЕСТИЯ/Александр Казаков
— Такие утечки представляют серьезную угрозу, в данный момент идет работа над окончательным текстом проекта федерального закона. Рассчитываю, что он будет внесен в ближайшее время в Государственную Думу, — говорит сенатор. — Сейчас в Совете Федерации и Государственной Думе уже ведется работа по разработке законодательной базы в отрасли ИИ. Цифровой кодекс может появиться в России уже в скором времени.
Руководитель Центра информационной безопасности Университета Иннополис Михаил Серегин считает, что маркировка данных, изготавливаемых нейросетями, необходима. Технически в изображении можно сохранить много дополнительной информации, но эффективнее хранить там только «штампик» авторства конкретной нейросети и временную метку.
— По нашей оценке, наиболее эффективным будет обязать владельцев нейросетей маркировать изготавливаемый контент либо предоставлять в открытый доступ инструмент для проверки, был ли конкретный текст, изображение или видео сгенерированы в этой нейронной сети, — говорит эксперт. — Остальную ответственность должны нести те, кто осознанно использует нейроконтент деструктивно, например, в целях клеветы.
Вместе с тем, генеральный директор компании «Фогстрим» Алексей Романов полагает, что сегодня не стоит ограничивать ни нейросети, ни чат-боты, созданные российскими разработчиками. На его взгляд, следует уделить внимание, прежде всего, образованию пользователя для обеспечения безопасности.
Необходимо разъяснять всеми возможными методами опасность передачи своих персональных данных чат-ботам и нейросетям, считает эксперт.
ЭТО поможет вам разобраться в причине, по которой не возможно отправить сообщение Вконтакте
Сообщение или смс
Сообщение – это элемент языка, который имеет идею и определенный смысл используемый для общения. Представляет собой не прерывную последовательность измеримых событий, распределенных во времени.
СМС – ежедневная рассылка сообщений друг другу, в виде текста с мобильного телефона. Никто не задумывается на сколько этот сервис влияет на современное общество и в некоторых моментах облегчает общение вживую.
Это мини- письма, с множеством символов, латиницей и кириллицей. Что в переводе – “ Служба коротких сообщений”.
Содержание:
- Подробности о проблеме
- Обзор причин
- Интернет – соединение. Нет подключения к интернету
- Вирусы
- Нет подтверждения номера телефона
- Другие сбои
Подробности о проблеме
Таким сервисом пользуется более 90% населения, это клиенты сотовой связи.
Количество отправляемого текста перевалило, за сотни миллиардов в год.
При рассылке сообщения с телефона через приложение Вконтакте мобильной версии, ограничения становятся более жесткими, особенно на количество отправленных другим пользователям.
Отправка 10 сообщений за короткое время, не разрешено, если только в том случае, пока кто то не напишет в ответ.
При попытке написать сообщение другу или новому знакомому, происходит так, что его нельзя отправить? Неизвестная ошибка? В чем причина? Почему сообщения не отправляются? Что делать?
Иногда приходится сталкиваться с тем, что сообщения по не понятной причине перестают отправляться и высвечиваются разные ошибки. В частых случаях начинают закидывать вопросами техподдержку, но чаще всего, проблема кроется не со стороны разработчика.
Вконтакте – крупнейшая социальная сеть по всей стране и на территории СНГ. Создавалась для наиболее активной аудитории на просторах интернета.
Имеет:
- Сайт в новом дизайне;
- Приложения для популярных платформ.
Программы позволяют общаться и пользоваться всеми функциями; - Мобильный портал, для посещения с браузера на телефоне. Мобильный портал для посещения с браузеров на телефонах.
Программы позволяют общаться и пользоваться всеми функциями;Причины, ошибки
- Интернет – соединение. Нет подключения к интернету;
- Вирусы;
- Нет подтверждения номера телефона;
- Сбой со стороны соц. сети;
- Пользователь вас заблокировал;
- Сбой в браузере.
Обзор причин
Интернет – соединение. Нет подключения к интернету
Самостоятельно установить такую причину, легко. Без подключения интернета, откажется работать любая программа или другие социальные сайты. Для проверки, необходимо забить в поисковую строку любой запрос.
Если ответа сервера не будет, значит это проблема с соединением.Такое отключение является кратковременным и достаточно просто, перезагрузить страницу, с компьютера, чтоб сообщения снова начали отправляться.
Нет никаких изменений, текст по прежнему остался помечен восклицательным знаком, нужно выполнить некоторые действия:
- Перезагрузка модема и ПК. Между отключением и включение, подождать не меньше минуты. Или открыть новую страницу браузера. Если портал открылся с интернетом все в порядке;
- Плохое соединение с интернетом;
- Позвонить провайдеру. Уточнить причины, возможно идут ремонтные работы.
Без соединения с интернет, в такой ситуации послать сообщения не получится, и они не будут отправлены.
Вирусы
Может быть проблема в вирусах, такие программы способны навредить и нарушить работу системы.
Устройство стало выполнять странные команды, перестало реагировать на ваши запросы – нужно установить или запустить антивирусную программу.
Это будет эффективным решением, и одно из распространенных причин , почему не отправляются смс с телефона или компьютера. Оптимальным и лучшим вариантом будет, установить устройство на телефоне.
Нужно:
- Скачать антивирус;
- После установки, открыть и запустить глубокую проверку;
- Если компьютер, перезагрузить ПК;
- Начнется проверка всех файлов;
- По окончании, сообщит о обнаруженных, зараженных обьектах и предложит выполнить различные действия;
- В завершении, запустите ПК, откройте браузер и проверьте работу.
Нет подтверждения номера телефона
Пользователю аккаунта, необходимо иметь подтвержденный номер телефона. Если номер не привязан к аккаунту, отправка не осуществится и все дальнейшие действия. Разработчики ограничили функционал сети.
Если нет привязки к аккаунту, нужно указать свой действующий номер, на который придет смс с кодом, ввести его, и подтверждение будет выполнено успешно.
Другие сбои
Сбой со стороны соц сети.
Скорее всего сбой кроется в самой системе Вк, возможны временные неполадки, или технические работы. Лучше подождать, для мастеров нужно время на исправление. Если другие порталы открываются без проблем, значит причина в данном сайте.
Пользователь вас заблокировал
- Человек добавил пользователя в черный список.
- Часто встречается такой вариант, когда пользователь в настройках приватности, запрещает определенному кругу лиц, писать ему. Для общения с таким человеком, нужно отправить запрос, на добавления в друзья. После подтверждения дружбы, сообщение можно будет отправить. Это в том случае, если нет кнопки отправки сообщения.
Сбой браузера
Кэш – это место в памяти вашего устройства, там хранятся все ваши данные, которые за весь период времени открывались, а потом. Он как правило быстро заполняется и из за этого, для новой информации пространства нет.
И первым делом его лучше очистить.Не отправляются сообщение Вконтакте с телефона
Подобные сбои с подключением, возникают и на смартфоне. Нет подключения к домашнему или мобильному интернету, возможно плохое покрытие моб. связи. Не включена передача данных
Совет
Одинаково скопированные сообщения, не становятся личными. Для близких и родных людей отправлять сообщения лучше индивидуально.
Новости, обзоры и идеи
Новости, обзоры и идеи
Эшан Уильям
Маленькие ребята из Cerbios представили новую версию своего биоса
от Kryzt Bates
Прямо посреди конференции Xbox + Bethesda Showcase, Sea
Эшан Уильям
Примерно через два месяца после выхода зомби-сиквела Dead Island
Эшан Уильям
По крайней мере, со времен Starfield Direct одно можно сказать наверняка: научно-фантастический эпос
Эшан Уильям
Сегодня настал день: Большое летнее обновление «Наемники Сан-Андреас» —
Эшан Уильям
Если вам нужен контроллер, вы можете перейти на
Эшан Уильям
Как вы знаете, L4T Ubuntu (или «Linux 4 Tegra Ubuntu») — это
от Kryzt Bates
На данный момент новости переполняются третьей частью Дэдпула. Это
Эшан Уильям
Жан Пьер Б | 13 июня 2023 г., 10:29
от Kryzt Bates
В эти дни проходит Летняя Распродажа Aliexpress. С 12 по 18 июня,
от Kryzt Bates
Рыбалка Каникулы родилась из Game Jam, эти события, в которых
Эшан Уильям
Fast Technology сообщила из Сан-Франциско 14 июня: в марте 2022 г.
