Az open-source AI modellek bűnözői visszaéléseknek vannak kitéve, figyelmeztetnek a kutatók
A nyílt forráskódú AI modellek biztonsági kockázatokat rejthetnek, mivel a bűnözők könnyedén kihasználhatják azokat, hogy illegális tevékenységeket folytassanak. A SentinelOne és a Censys által végzett kutatás rávilágít arra, hogy a hackerek képesek átvenni az irányítást a számítógépek felett, amelyek nyílt forráskódú nagy nyelvi modellek (LLM) futtatására szolgálnak, így spam tevékenységeket, adathalászatot, vagy akár álhírek terjesztését végezhetik. Mivel a nyílt forráskódú modellek nem mindig tartalmaznak biztonsági korlátokat, ez komoly fenyegetést jelent, különösen, ha figyelembe vesszük, hogy a kutatás során megvizsgált LLM-ek körülbelül 7.5%-a potenciálisan káros tevékenységekhez vezethet.
A kutatás rámutat arra is, hogy a nyílt forráskódú AI modellek elérhetősége, különösen a Meta Llama és a Google DeepMind Gemma variánsai, nagy mértékben hozzájárulhat a bűnözők által történő kihasználásukhoz. Ez a helyzet hasonló egy jéghegyhez, ahol a láthatatlan rész a valós problémákat rejti, amelyekkel a szektor nem foglalkozik eléggé. A nyílt forráskódú közösség felelőssége, hogy figyelembe vegye ezeket a kockázatokat és megfelelő védelmi eszközöket dolgozzon ki az ilyen esetek elkerülésére.
A nyílt forráskódú modellek felelőssége a jövőbeli visszaélésekhez való alkalmazkodásban nemcsak a kutatóintézetekre hárul, hanem az iparág minden szereplőjére is, beleértve a fejlesztőket és a felhasználókat is. Az AI modellek felelősségteljes használata és a potenciális visszaélések megelőzése érdekében a vállalatoknak erősíteniük kell a biztonsági intézkedéseiket, és együtt kell működniük a jogi hatóságokkal, hogy a nyílt forráskódú technológiák előnyeit a társadalom javára fordíthassák.