Takataka za AI (AI Slop) Zinaziba Programu ya Zawadi za Apple, Zikificha Hitilafu ya macOS ya $200,000

Ongezeko la AI inayozalisha (generative AI) linatengeneza mbele ya mapambano yasiyotarajiwa katika usalama wa mtandao, huku ripoti za kiotomatiki za hali ya chini zikizidi uwezo wa mifumo ya kawaida ya kutoa taarifa za udhaifu. Hitilafu kubwa ya macOS, yenye thamani ya hadi $200,000, hivi karibuni haikuripotiwa kwa sababu kiasi cha uwasilishaji katika programu ya Apple ya bug bounty kilikuwa tayari kimeisha kutokana na "takataka za AI" (AI slop).

Gharama ya "Takataka za AI" katika Usalama wa Mtandao

Kadiri Mifumo Mikubwa ya Lugha (LLMs) inavyozidi kupatikana kwa urahisi, wimbi jipya la utafiti wa usalama "usio na juhudi nyingi" limeibuka. Watafiti wa usalama wanazidi kutumia AI kuzalisha ripoti nyingi za hitilafu, ambazo nyingi kati yake zina udhaifu wa "kuhalusiwa" (hallucinated vulnerabilities)—makosa ya kiufundi ambapo AI inatambua vibaya udhaifu wa usalama usio halisi.

Ingizo hili la data za kiotomatiki na za hali ya chini limeilazimu Apple kuchukua hatua kali ili kulinda rasilimali zake za uhandisi. Ili kudhibiti kelele hizi, Apple sasa inaweka kikomo cha idadi ya ripoti za hitilafu ambazo watafiti wanaweza kuwasilisha na kusimamia kipindi cha lazima cha kusubiri cha siku 30 kati ya uwasilishaji. Ingawa lengo ni kudumisha ufanisi wa mfumo, vizuizi hivi vinatengeneza mapengo hatari katika mfumo huo.

Udhaifu wa $200,000 Uliozuiwa na Vigezo vya Uwasilishaji

Matokeo halisi ya mkwamo huu yalionyeshwa na kampuni mpya ya Italia ya usalama wa mtandao, Bynario. Kampuni hiyo iligundua udhaifu mkubwa wa macOS unaoweza kuwapa washambuliaji udhibiti kamili wa mashine inayolengwa. Licha ya ukali wa hitilafu hiyo, Bynario haikuweza kuiripoti kupitia njia rasmi za Apple kwa sababu kiasi cha uwasilishaji kilikuwa tayari kimefikiwa na watafiti wengine.

Alfredo Pesoli, CEO wa Bynario, anakadiria thamani ya soko la haramu ya