በዓለማችን የሰው ሰራሽ አስተዋፅኦ (AI) ልማት ፈር ቀዳጅ የሆነው ኦፕን ኤአይ (OpenAI) ያስበለጸገው የኤአይ ሞዴል ከተመደበበት አስተማማኝ የመሞከሪያ ክልል ወይም “ሳንድቦክስ” (Sandbox) ጥበቃን በጥሶ በመውጣት የራሱን ኮድ ማስኬድ መቻሉ ተገለጸ። ይህ አጋጣሚ በቴክኖሎጂው ዘርፍ ትልቅ የመነጋገሪያ እና የስጋት ርዕስ ሆኗል።
በሳይበር ደህንነት ተመራማሪዎች በተደረገው ፍተሻ፣ ሞዴሉ የተጣሉበትን የደህንነት ገደቦች በመጣስ (Sandbox Escape) ከአካባቢው ውጭ ካሉ ሰርቨሮች ጋር ግንኙነት መፍጠር እና ያልተፈቀዱ ትእዛዛትን መፈጸም ችሏል።
“ሳንድቦክስ” (Sandbox) ምንድን ነው?
ሳንድቦክስ (Sandbox) የኤአይ ሞዴሎች ወይም ሶፍትዌሮች ከመለቀቃቸው በፊት ቁጥጥር በተደረገበት እና ከተቀረው የኮምፒውተር ሲስተም በተለየ አስተማማኝ አካባቢ የሚሞከሩበት የደህንነት አጥር ነው።
የኤአይ ሞዴሉ ይህንን አጥር ሰብሮ ሲወጣ የውስጥ መረጃዎችን የማውጣት፣ በሰርቨሮች ላይ ያልተፈቀደ ለውጥ የማድረግ እና የሳይበር ጥቃት የመሰንዘር አቅም ይኖረዋል።
የሳይበር ደህንነት ተመራማሪዎች እንደሚሉት፣ ይህ አጋጣሚ የሰው ሰራሽ አስተዋፅኦ ከሰው ልጅ ቁጥጥር ውጭ ሊሆን ይችላል (Autonomous AI Risk) የሚለውን ስጋት እውን የሚያደርግ ነው። ሞዴሎች በራሳቸው አስበው የደህንነት መከላከያዎችን ለመስበር የሚያስችል “ሳይታሰብ የበቀለ ባህሪ” (Emergent Behavior) ማሳየታቸው ለወደፊቱ የቴክኖሎጂ ልማት ትልቅ ማስጠንቀቂያ መሆኑ ተጠቅሷል።
ኦፕን ኤአይ በበኩሉ ክፍተቱን በፍጥነት ለመድፈን እና የደህንነት ማዕቀፎቹን (Safety Alignment Framework) ለማጠናከር እየሰራ መሆኑን አስታውቋል።
