Instagram został zhakowany – doszło do nowej fali ataków na popularne, dobrze znane i popularne konta na instagramie. Zostały zhakowane między innymi konta byłego prezydenta USAa – Obamy, Sephory i inne wartościowe konta.
Jak do tego doszło?
Nie przez nowy exploit 0-day, ani nie przez mega zawansowaną grupę hakerską, która włamała się do całego instagrama i mety.
Za całym zamieszaniem stoi ich własny asystent AI. – Meta AI. Jedyne co było potrzebne do przeprowadzenia ataku na konta znanych osób to wpisanie odpowiedniego prompta.
Wcześniej trzeba było jedynie zagadać do AI o zmianie hasła do danego konta, bo się rzekomo “zapomniało” hasła i podać maila do przesłania kodu do resetu hasła.
Dlaczego to było możliwe?
AI to nowa technologia. Naturalnie trzeba z nią uważać szczególnie, że zabezpieczenia w niej mogą działać lepiej bądź gorzej z natury tego jak działa AI i tego że bezpieczeństwo i hardening AI dopiero raczkuje.
Ciekawostka
W prompcie używa się specyficznych sformułowań aby sprawić aby Meta AI pomyślało że ono samo wysłało wiadomość z prośbą o wysłanie kodu na maila.
A to przez to że dla AI cała nasza konwersacja, która jest w “dymkach” i ma imitować rzeczywistą rozmowę – jest tak naprawdę jednym wielkim blokiem tekstu, których AI jak widać nie koniecznie dobrze rozróżnia.
We are doomed…
Polecam zapoznać się z materiałem źródłowym:
- https://youtu.be/Zob4a6SitZQ?si=p5STTQh3CaiF-bmx