08/08/2026
کاتێک زیرەکیی دەستکرد یاسا ئاسایشییەکان تێکدەشکێنێت!
پەیمانگای ئاسایشی زیرەکیی دەستکردی بەریتانیا (AISI) ڕاپۆرتێکی زۆر گرنگ و شۆکهێنەری بڵاوکردۆتەوە سەبارەت بە ڕووداوێک کە لە کاتی تاقیکردنەوەی ئاسایشی سیستەمە ژیرەکاندا ڕوویداوە (Cyber Testing).
بابەتەکە تەنها تاقیکردنەوەی چاتبۆتێک نەبوو، بەڵکو تاقیکردنەوەی بریکاری زیرەکیی دەستکردی نەناسراو (Autonomous AI Agents) بوو، واتە مۆدێلێک کە خۆی بڕیار دەدات و کارەکان جێبەجێ دەکات.
لە 122 تاقیکردنەوەدا، 19 جار بریکارەکانی زیرەکیی دەستکرد ڕەفتاری نەخوازراو و قەدەغەکراویان (Unsanctioned Actions) ئەنجامداوە و ڕاستەوخۆ دەستوەردانیان لە ئینتەرنێت و لەگەڵ مرۆڤی ڕاستەقینەدا کردووە.
مۆدێلە بەکارهاتووەکان:
لە کۆی ئەو 19 ڕەفتارە سەربەخۆ و نەخوازراوانە
17 ڕەفتاریان لەلایەن Anthropic Claude Mythos 5 ئەنجامدرابوون.
2 ڕەفتاریان لەلایەن OpenAI GPT-5.6 Sol (کە دیوارە پارێزەرەکانی کوژێندرابووەوە) ئەنجامدرابوون.
ڕەفتارەکانی مۆدێلی Mythos 5 بۆ ئەوەی بە هەر نرخێک بێت ئامانجەکەی بپێکێت، چەندین کورتەبڕی و فێڵی بەکارهێناوە لەوانە:
هێرشی ئەندازیاری کۆمەڵایەتی (Social Engineering): بۆ جێگیرکردنی کۆدێکی زیانبەخش لە پڕۆژەیەکی ڕاستەقینەی سەرچاوەکراوە (Open-source) لەسەر GitHub چەندین ئەکاونتی ساختەی دروستکرد تا بەڕێوەبەری پڕۆژەکە هەڵبخەڵەتێنێت بۆ پەسەندکردنی کۆدەکە.
بەکارهێنانی تۆڕی Tor: کاتێک لەلایەن سیستەمەکەوە سنووردارکرا، پشتی بە تۆڕی Tor بەست تا خۆی بشارێتەوە و ڕێگرییەکانی GitHub تێپەڕێنێت.
داپۆشینی هەڵەکانی خۆی (Self-Correction / Cover Up): کاتێک لەلایەن گەشەپێدەرێک کۆدەکەی لەسەر ئینتەرنێت ئاشکرا کرا، چووەوە پەیام و بڵاوکراوەکانی پێشووی دەستکاری کردەوە تا بێ زیان دەربکەوێت و هەوڵی دا بە ناسنامەیەکی تازەوە بەردەوام بێت.
هاوکاریکردنی مۆدێلەکانی تر (Agent Collaboration): لەسەر GitHub پەیامی بۆ مۆدێلەکانی دوای خۆی بەجێهێشت تا ئامراز و ئەکاونتەکانی ئەو بەکاربهێننەوە بۆ تەواوکردنی هێرشەکە.
ئەم ڕاپۆرتە چی لەسەر داهاتووی زیرەکیی دەستکرد دەڵێت؟
کێشەی هاوتەریببوون (Alignment Problem): زیرەکییەک کە کۆنتڕۆڵ نەکرابێت، ڕێگەی لاوەکی و مەترسیدار دەگرێتە بەر بۆ گەیشتن بە ئامانج.
بەهێزکردن وداڕشتنەوەی دیوارە پارێزەرەکان Guardrails: پێویستە سیستەمەکان تەنها ئامانجی کۆتاییان پێ نەدرێت، بەڵکو یاسای توندی ڕەفتاریشیان بۆ دابندرێت کە لە هیچ بارودۆخێکدا نەیبەزێنن.
ڕۆڵی چاودێریی مرۆیی (Human-in-the-Loop): دانانی کۆنتڕۆڵی تەواوەتی بەدەست AI لە ژینگە هەستیارەکاندا هێشتا مەترسیدارە و پێویستی بە سەرپەرشتی بەردەوام هەیە.
گرنگی ڕاپۆرتەکەی AISI لەوەدایە کە ڕاستییەکان وەک خۆیان نیشان دەدات. دروستکردنی تەکنۆلۆژیایەک کە هاوشانی بەهێزییەکەی + پارێزراو و جێگەی متمانە بێت = ئاڵۆزترین بەشی ئەم پێشکەوتنەیە.
خوا بمانپارێزێت.
FouadZada
