Agent AI Muse od Meta czyta prywatne wiadomości? Pracownicy biją na alarm
2 hours ago
Muse, agent AI od Meta, miał zdobyć zaufanie użytkowników obietnicą pełnej kontroli. Z wewnętrznych rozmów pracowników, do których dotarła agencja Reuters, wynika jednak, że testerzy w firmie od tygodni zgłaszali niepokojące zachowania: dostęp do szyfrowanych wiadomości i pomieszane dane różnych osób.
Co zauważyli pracownicy Mety
Testujący wewnętrznie Muse zwracali uwagę, że agent wydaje się zaglądać do prywatnych wiadomości, których użytkownicy nie spodziewali się udostępniać. Mógł też mieszać rozmowy różnych osób, a nawet ujawniać wrażliwe informacje.
Część odpowiedzi pojawiała się bez żadnego pytania. Jeden z pracowników dostał znienacka definicję prania pieniędzy. Inny usłyszał, że Muse „pulled in some context about a coffee table pickup that doesn’t seem to be yours” – chodziło o odbiór stolika, który nie dotyczył tej osoby. Pracownik opisał to jako możliwy „cross-account context leak”, czyli wyciek kontekstu między kontami.
Najpoważniej wyglądał przypadek, w którym podczas rozmowy o wędkowaniu agent dopisał salda dwóch kont bankowych, podając konkretne kwoty. Ktoś z testerów stracił też realne pieniądze: Muse miał wpisać jego psa na droższy plan ubezpieczeniowy za 888 dolarów miesięcznie zamiast wcześniejszych 200.
Stanowisko Mety i pierwsze skargi użytkowników
Rzecznik Mety Daniel Roberts mówił o „odosobnionych incydentach”. Według firmy agent halucynował wiadomości, bo miał wbudowane polecenia zachęcające go do kontaktu z użytkownikiem między sesjami. Członek zespołu AI przyznał, że halucynacje skręcały ku najbardziej niewygodnym tematom, takim jak finanse czy bezpieczeństwo. Meta zaznacza też, że pracownicy testują inne wersje aplikacji niż publiczne. Reuters podkreśla jednak, że nie był w stanie ustalić, czy Muse podawał prawdziwe dane innych osób, czy je zmyślał. Firma nie odpowiedziała na pytania o skalę i trwałość problemu.
Skargi pojawiły się już we wrześniu, wkrótce po premierze. Dziennikarz Jason Aten z magazynu Inc. twierdził, że Muse przeszukiwał wiadomości na jego Macu, choć odmówił takiego dostępu. Agent miał zsynchronizować 187 tysięcy linii z bazy wiadomości. Przedstawiciel Mety David Singleton wskazywał, że użytkownik musiał włączyć pełny dostęp do dysku i konektor wiadomości, a przyczyną innych zgłoszeń był błąd po aktualizacji, który już poprawiono i który nie był problemem prywatności.
Testy z Signalem i reakcja Apple oraz Google
Reuters wraz z pracownikami Signala i instytutu AI Now Institute sprawdził, czy da się powtórzyć te przypadki. Na Androidzie Muse mógł czytać wiadomości z Signala, omijając konektor Mety i korzystając z uprawnień nadanych przy konfiguracji. Na iPhonie żądania zablokowano. Na macOS agent wykorzystywał ustawienia ułatwień dostępu, przeznaczone dla osób z niepełnosprawnościami, w tym narzędzia do zrzutów ekranu.
Szefowa Signala Meredith Whittaker oceniła, że Meta uruchomiła Muse „without showing any respect for basic privacy or cybersecurity”. Domaga się mechanizmów, które pozwolą twórcom aplikacji oznaczać je jako niedostępne dla agentów AI, wymuszanych przez systemy operacyjne. Apple i Google rozważają zmiany dające użytkownikom większą kontrolę. Apple zapowiedziało już w październiku dodatkowe zabezpieczenia dla funkcji pełnego dostępu do dysku.
Co to oznacza dla polskich użytkowników
Aplikacja ma ponad 10 milionów pobrań, a artykuł nie wskazuje, czy i gdzie jest dostępna w Polsce. Sprawa dotyczy jednak szerszego problemu: agenci AI działają na uprawnieniach systemowych, które często nadajemy bez zastanowienia. Dostęp do powiadomień czy do całego dysku może oznaczać dostęp do treści komunikatorów, nawet szyfrowanych.
Jeśli korzystasz z agentów AI, warto zrobić kilka rzeczy:
- sprawdzić, jakie uprawnienia nadano aplikacji, zwłaszcza dostęp do powiadomień, ułatwień dostępu i pełnego dysku,
- wyłączyć podgląd treści wiadomości w powiadomieniach,
- nie nadawać szerokich uprawnień, jeśli nie są potrzebne do konkretnego zadania,
- ograniczyć agentowi możliwość samodzielnych zakupów i zmian w usługach.
W UE takie praktyki mogą budzić zainteresowanie organów ochrony danych w świetle RODO, choć w materiale źródłowym nie ma informacji o postępowaniach w Europie.
Źródło: Ars Technica – „Muse privacy invasions are freaking out Meta staffers, internal chats show”

