Ez téma már sok-sok éve a terítéken van, a biztonságos programozás alapkövetelménye lenne, sőt OWASP ajánlása is felhívja erre a figyelmet, incidenseket pedig láttunk már ebből rengeteget. A sérülékeny ASP.NET formoktól kezdve, SQL injection, LDAP injection, Cross-Site Scripting (XSS) sebezhetőségek mind alapvetően abból fakadnak, hogy az alkalmazás nem validálja megfelelően a bemeneteket.
A tanulságot jól láthatóan máig nem sikerült mindenkinek levonnia, és ezúttal egy AI chatbot esett el ugyanezen a harcmezőn. Lena, aki nem tűnt el egy hajnalon sem, hanem éppenséggel a GPT-4-en alapuló Lenovo AI csevegőrobotjaként teljesít ügyfélbarát szolgálatot.
Biztonsági kutatók hívták fel nemrég a cég figyelmét arra, hogy egyetlen 400 karakteres prompt segítségével érzékeny adatokat sikerülhet kicsalni a rendszerből, ehhez HTML formátum használatára volt szükség.
A preparált kód egy nemlétező kép betöltése után lopott session cookiek segítségével jogosulatlan hozzáférést szerzett a Lenovo ügyfélszolgálati rendszeréhez, és nem csak a csevegő részhez, hanem szabadon mozogva vállalati hálózaton belül is.
A kihasznált sebezhetőség révén már elérhették az éppen aktív chat folyamokat, és a korábbi beszélgetések adatait is, adathalász átirányításokat, vagy akár backdoor telepítését is kezdeményezhetik így támadók. A szakértők figyelmeztetése után a Lenovo augusztusban már kijavította a fenti hibát a Lena chatbotban.
Ami talán tanulság - nem feledve a sokkal korábbi leckéket sem -, hogy az AI bevezetésénél is fontosak (lennének) a megfelelő biztonsági kontrollok. A dolog minden olyan mesterséges intelligencia rendszert érinthet más egyéb cégnél is, amelyek nem rendelkeznek megfelelő bemeneti szűréssel az engedélyezett karakterek tekintetében, potenciálisan veszélyeztetve ezzel a hitelesített munkameneteket, és hozzáférést biztosítva a támadóknak az ottani ügyfélszolgálati platformokhoz.
De emlékezhetünk rá, hogy a ChatGPT esetében is történtek már korábban hasonló típusú afférok, szóval a téma az ablakban. Erre már csak rátesz egy lapáttal azt a kretén opció, ami megoszhatóvá teszi a chateket, és az a Google pedánsan beindexeli.
