Недавние события в мире технологий привлекли внимание к уязвимостям, связанным с обработкой личных данных в сервисах искусственного интеллекта. Группа хакеров vmfunc обнаружила, что алгоритм, используемый для подтверждения возраста в ChatGPT, имеет серьезные недостатки. В данной статье мы рассмотрим, как именно происходят утечки данных и что это значит для пользователей.
Методы работы алгоритма Persona
Алгоритм Persona, используемый OpenAI и другими компаниями, такими как Roblox и Reddit, предназначен для подтверждения возраста пользователей.
- Общий доступ к сервисам: Хакеры смогли получить доступ к серверу Google Cloud, на котором размещается сервис openai-watchlistdb.withpersona.com.
- Процесс подтверждения: Для того чтобы подтвердить возраст, пользователю необходимо загрузить селфи, которое затем анализируется по 14 категориям.
- Опасные категории: К ним относятся негативные упоминания в СМИ и информация о терроризме.
- Сравнение с данными: Система ищет совпадения с личностями из государственных источников.
- Финансовые проверки: Алгоритм также анализирует финансовые данные и активность на рынке криптовалют.
- Риски передачи данных: При обнаружении подозрительной информации компании могут передавать данные регулирующим органам.
- Отсутствие доказательств: Хакеры утверждают, что нет никаких доказательств того, что данные передаются безопасно.
- Автоматизированная передача данных: Данные пользователей могут автоматически передаваться властям США без согласия пользователей.
- Множественные платформы: Существует несколько сервисов, использующих идентичный подход к обработке данных, включая withpersona-gov.com для работы с государственными структурами.
Дополнительные проверки и их последствия
После подтверждения личности пользователя алгоритм Persona выполняет множество дополнительных проверок.
Проблемы безопасности и риски
Несмотря на заявленное отсутствие взлома со стороны хакеров, существуют существенные проблемы безопасности.
Заключение: Что делать пользователям?
Пользователи должны быть осторожны при использовании сервисов с подобными алгоритмами. Понимание рисков и технологий может помочь защитить свои личные данные от несанкционированного доступа. Кроме того, следует следить за обновлениями безопасности от компаний-разработчиков и принимать меры предосторожности при предоставлении личной информации.
«Забота о своей безопасности в сети — это ответственность каждого из нас»
Важно помнить: технологии продолжают развиваться, и с ними появляются новые угрозы. Будьте бдительны!