In juni 2025 ontdekten onderzoekers een kwetsbaarheid die gevoelige Microsoft 365 Copilot-gegevens blootlegden zonder enige gebruikersinteractie. In tegenstelling tot conventionele inbreuken die afhankelijk zijn van phishing of gebruikersfouten, omzeilde deze exploit, nu bekend als EchoLeak, menselijk gedrag volledig en haalde in stilte vertrouwelijke informatie uit de lucht door de manier te manipuleren waarop Copilot met gebruikersgegevens omgaat. Het incident benadrukt een ontnuchterende realiteit: de huidige beveiligingsmodellen, die zijn ontworpen voor voorspelbare softwaresystemen en applicatielaagverdedigingen, zijn slecht toegerust om met de dynamische, onderling verbonden aard van de AI-infrastructuur om te gaan.
