Искусственный интеллект Copilot в Windows 11 получил доступ к конфиденциальным письмам пользователей, несмотря на то, что эти письма специально отмечены как недоступные для обработки ИИ. Компания Microsoft признала наличие проблемы и уже начала исправлять ошибку.
Проблема коснулась рабочего чата Copilot, где искусственный интеллект предназначен для чтения и анализа электронной почты с целью упрощения рабочих задач. Сообщения, помеченные как «конфиденциально», некорректно обрабатывались чатом Microsoft 365 Copilot, что приводило к нарушению политик защиты данных.
Контекст: В настоящее время вопрос конфиденциальности и безопасности данных в ИИ-системах стоит особенно остро. Многие компании активно внедряют AI-технологии, но столкноваются с проблемами, связанными с правильной обработкой чувствительной информации. Ошибка Microsoft подчеркивает важность тщательного тестирования и мониторинга таких систем.
Несмотря на быстрое исправление проблемы, этот инцидент демонстрирует, что даже крупные технологические компании могут столкнуться с серьёзными вызовами в области безопасности данных. Это подчёркивает необходимость постоянного совершенствования и прозрачности в разработке AI-систем.