A digitális korban egyre gyakrabban lépünk kapcsolatba a mesterséges intelligenciával, és a mesterséges intelligencia számos alkalmazási körrel rendelkezik az okosotthonoktól a mobiltelefon-alkalmazásokig. Közülük a chatbotot a közönség üdvözölte kényelmes és hatékony tulajdonságai miatt, és a figyelem felkapott terévé vált.
Legyen szó az OpenAI ChatGPT-jéről vagy a Google Bard-járól, ezek a chatbotok képzettek, és az internetről származó hatalmas mennyiségű adat felhasználásával lépnek kapcsolatba a felhasználókkal.
Azonban gondoltál már arra, hogy miközben boldogan és könnyedén kommunikálsz egy chatbottal, az csendesen kémkedhet a titkai után?
Hogyan következtetnek az AI chatbotok a felhasználói információkra?
Az ETH Zürich informatikusai által végzett közelmúltbeli tanulmány szerint a chatbot a beszélgetések tartalma alapján képes következtetni a felhasználó személyes adataira, például lakóhelyére, faji hovatartozására, nemére stb. Bár a tanulmányt nem vizsgálták felül, új aggályokat vet fel az internetes adatvédelemmel kapcsolatban.
Az LLM-ek azon képessége, hogy a betanítási adatok és algoritmusok összetettségéből ítéljék meg és hozzanak létre eredményeket. A modell nagy mennyiségű nyilvánosan elérhető adatra van kiképezve, beleértve az internetről származó szöveget, képeket, hanganyagokat és egyebeket. A képzés során megtanulták, hogyan lehet az adatokból kulcsokat kinyerni, és ezek alapján új szövegeket osztályozni és előre jelezni.
A kutatócsoport Reddit-bejegyzésekből származó szöveget használt, amelyben a felhasználók tesztelték, hogy az LLM-ek pontosan ki tudják-e következtetni, hol élnek, vagy honnan származnak. A Martin Vechev, az ETH Zürich kutatócsoportja által vezetett kutatócsoport arra a következtetésre jutott, hogy ezek a modellek csak kontextuális vagy nyelvi jelzések alapján pontos információkat találhatnak ki a felhasználókról. Az Open AI ChatGPT fizetős verziójának középpontjában a GPT{0}} meglepően pontosan előrejelzi a felhasználó személyes adatait az esetek 85-95 százalékában.
Például, amikor a felhasználó megemlíti, hogy "mindig horogfordulásra várok egy kereszteződésnél", amikor csevegőbottal kommunikál, akkor a chatbot ezt az információt felhasználhatja arra, hogy megállapítsa, hol lakik a felhasználó, mivel a kanyarodás egy egyedi közlekedési művelet. Melbourne-be. Például, ha egy felhasználó megemlíti a beszélgetés során, hogy egy New York City közelében lévő étteremben lakik, a chatbot elemzi a terület demográfiai adatait, és arra következtet, hogy Ön nagy valószínűséggel fekete bőrű.
Ez a következtetés azonban nem mindig pontos, mivel minden felhasználó nyelve és viselkedése egyedi. De elég megmutatni, hogy a big data-ra kiképzett AI-modellek már képesek detektívként viselkedni, néhány jelentéktelennek tűnő nyomból levezetni a legfontosabb információkat.
Bár sok szakértő azt hirdeti, hogy a közösségi média használói ügyeljenek az információbiztonságra, és ne osszák meg túl sok személyazonossági információt az interneten, a hétköznapi felhasználók gyakran nincsenek tudatában annak, hogy hétköznapi beszédük és tetteik felfedhetik magánéletüket.
Mit kell tenni?
Míg az AI chatbotok kényelmet nyújtanak számunkra, a magánélet védelmét is bonyolultabbá teszik. Több szinten kell reagálnunk:
Először is, a fejlesztőknek előnyben kell részesíteniük a magánélet védelmét, és teljes mértékben figyelembe kell venniük a felhasználók adatvédelmi jogait a chatbotok tervezése és fejlesztése során. Például korlátozhatja a felhasználói adatok gyűjtésének és felhasználásának hatókörét, titkosítási és anonimizálási technikákat alkalmazhat a felhasználói adatok védelme érdekében, a fejlesztők pedig adatvédelmi algoritmusokat vezethetnek be, amelyek korlátozzák a chatbotok azon képességét, hogy felhasználói információkra következtessenek.
Másodszor, a kormánynak és a szabályozóknak meg kell erősíteniük a chatbotok adatvédelmi szabályzatának felügyeletét. Gondoskodjon arról, hogy a vállalatok megfeleljenek a vonatkozó törvényeknek és előírásoknak a felhasználói adatok gyűjtése, felhasználása és megosztása során, valamint átlátható, értelmezhető és hozzáférhető adatvédelmi szabályzatot biztosítsanak a felhasználóknak.
Végezetül, felhasználókként fel kell hívnunk a figyelmet a magánélet védelmére. Ha chatbotot használ, ügyeljen arra, hogy ne fedjen fel túl sok személyes információt a beszélgetés során.
Az AI chatbotok fejlesztése kényelmet és szórakozást hozott számunkra, de új adatvédelmi fenyegetéseket is hozott. Ha minden fél együttműködik technikailag és etikailag is, akkor maximalizálhatjuk az AI előnyeit, miközben minimalizáljuk a lehetséges kockázatokat.
Talán e „sokk” után óvatosabbak leszünk a mesterséges intelligencia eme változásaival és lehetőségeivel teli korszakával kapcsolatban, hogy a tudomány és a technológia valóban az embereket szolgálhassa.