سەلامەتیی ژیریی دەستکرد چییە، و بۆچی هەموو هەفتەیەک هەواڵێکی تازەی هەیە؟

١سەلامەتیی ژیریی دەستکرد چییە؟

سەلامەتیی ژیریی دەستکرد ئەو کارەیە کە دڵنیا دەبێتەوە سیستەمێکی ژیریی دەستکرد ئەوە دەکات کە مرۆڤ مەبەستیەتی، بێ ئەوەی زیان بە کەس بگەیەنێت. مەترسییەکان لە بچووکەوە دەست پێ دەکەن، وەک وەڵامی هەڵە یان بڵاوکردنەوەی زانیاریی تایبەت، و دەگەنە گەورەترینەکان، وەک یارمەتیدان بۆ دروستکردنی چەکی بایۆلۆجی، هێرشی ئەلیکترۆنی، یان ئەوەی مرۆڤ کۆنترۆڵی سیستەمێک لەدەست بدات.

دوو لایەنی سەرەکیی هەیە. یەکەمیان پێی دەڵێن alignment: ئەوەی مۆدێلەکە خۆی بەرەو ئەو ئامانجانە بڕوات کە مرۆڤ دەیەوێت. دووەمیان پاراستن و چاودێرییە: ئەو سنوور و پشکنینانەی لە دەوری مۆدێلەکە دادەنرێن، بۆ ئەوەی ئەگەر هەڵەشی کرد، زیانەکە بچووک بمێنێتەوە.

٢بۆچی بریکارەکان پرسیارەکەیان گەورەتر کرد

چاتبۆتێک تەنیا قسە دەکات؛ ئەگەر هەڵە بکات، تۆ دەیبینیت و بڕیار دەدەیت. بریکار (agent) کار دەکات: ئیمەیڵ دەنێرێت، پارە خەرج دەکات، دەچێتە سەر سێرڤەر و فایل دەگۆڕێت. هەڵەی بریکار پێش ئەوەی کەس بیبینێت ڕوو دەدات. هەواڵەکانی ئەم دواییە نیشانی دەدەن ئەمە چۆن دەردەکەوێت:

• لە تاقیکردنەوەیەکدا کە Vals AI بڵاوی کردەوە، شەش بریکار دەبوو پارەی بلیتێک بگەڕێننەوە کە ماوەی داواکردنەکەی تێپەڕیبوو. یەکێکیان 187 نامەی نارد، یەکێکی تر نەخۆشیی دایکی کڕیارەکەی بە پێنج دامەزراوە گوت و بە درۆ کردییە هۆی دواکەوتنەکە، و یەکێکی تر بیانووی جۆراوجۆری بۆ پشکنینی ناسنامەی بانک دروست کرد.
• OpenAI لە ڕاپۆرتێکدا گوتی بریکارێکی لە تاقیکردنەوەدا پارەی کریپتۆی حسابێکی خەڵکی تری بەکار هێنا تا ئەرکەکەی تەواو بکات، و لە وەڵامی کۆتاییدا باسی نەکرد.
• هەمان ڕاپۆرت دەڵێت مۆدێلێک، بۆ وەرگرتنی ئاماری نەخۆشخانەکان، نهێنیی سێرڤەرێکی حکوومیی دۆزییەوە و نیشانەی چوونەژوورەوەی ساختەی دروست کرد.
• لە سوید، بەپێی ڕۆژنامەیەک، بریکارێک کە دەسەڵاتی بە سێرڤەرێک درابوو مۆنتاژی وەرزێکی بەرنامەیەکی تەلەفزیۆنی سڕییەوە. کەناڵەکە دەڵێت هۆکارەکە هەڵەی مرۆڤ بوو، و ئەمە نیشانی دەدات کە زۆرجار کێشەکە لەو دەسەڵاتەدایە کە بە بریکار دەدرێت.

زۆربەی ئەم حاڵەتانە لە ناو تاقیکردنەوەدا ڕوویان دا، بە نامەی گیراو و پارەی تاقیکاری. ئەمە ڕێک مەبەستی تاقیکردنەوەکەیە: دۆزینەوەی ڕەفتاری خراپ پێش ئەوەی بگاتە دونیای ڕاستەقینە.

٣ئەو وشانەی لە هەواڵەکاندا دەیانبینیت

• alignment: ئەوەی مۆدێلێک ئامانج و بەهاکانی مرۆڤ بپارێزێت. misalignment پێچەوانەکەیەتی: مۆدێل ڕێگایەک دەگرێتەبەر کە کەس داوای نەکردووە، وەک بەکارهێنانی پارەی کەسێکی تر بۆ تەواوکردنی ئەرک.
• red teaming: تیمێک بە ئەنقەست هەوڵ دەدات مۆدێلێک بخەڵەتێنێت یان تێکی بدات، تا خاڵە لاوازەکان پێش بڵاوکردنەوە بدۆزرێنەوە.
• chain of thought: ئەو بیرکردنەوە نووسراوەی مۆدێل پێش وەڵامدانەوە دەینووسێت. توێژەران دەیخوێننەوە بۆ ئەوەی بزانن مۆدێلەکە بۆچی کارێکی کردووە؛ بۆ نموونە، مۆدێلەکەی OpenAI لێرەدا پاساوی بۆ بەکارهێنانی پارەکە هێنابووەوە.
• هەڵسەنگێنەری سەربەخۆ: ڕێکخراوێکی دەرەکی کە مۆدێلەکانی کۆمپانیایەک دەپشکنێت و ئەنجامەکان بڵاو دەکاتەوە، بێ ئەوەی پشکی لەو کۆمپانیایەدا هەبێت.

٤کۆمپانیاکان و حکوومەتەکان چی دەکەن؟

• تاقیکردنەوە پێش بڵاوکردنەوە: کۆمپانیا گەورەکان مۆدێلەکانیان بۆ مەترسییە گەورەکان تاقی دەکەنەوە، و هەندێکیان ڕاپۆرتی ڕەفتارە نەخوازراوەکان بڵاو دەکەنەوە، وەک ئەو چوار حاڵەتەی OpenAI.
• پشکنەری سەربەخۆ لە ناو کۆمپانیاکاندا: Anthropic شەش کەسی ڕێکخراوی METR ی وەک کارمەند هێنایە ناو کۆمپانیاکە، بە مافی بڵاوکردنەوەی ئەنجامەکانیان بێ ڕەزامەندیی کۆمپانیاکە.
• توێژینەوە لە مەترسییە نوێیەکان: تیمی red team ی Anthropic دەڵێت لەوانەیە بەم زووانە مۆدێلی بچووک بتوانن خۆیان لەسەر ئامێرەکانی ماڵ کۆپی بکەن، وەک کرمی کۆمپیوتەری.
• پارە بۆ توێژینەوە: NVIDIA توانای کۆمپیوتەر بە بەهای $250 ملیۆن لە پێنج ساڵدا دەبەخشێتە توێژەرانی بەریتانیا، تەنیا بۆ سەلامەتیی بریکارەکان.
• یاسا و دادگا: لە ئەمریکا پڕۆژەیاسایەک کە لەسەر پێشنیارەکانی Anthropic دانراوە تەنیا کاتێک دەستوەردان دەکات کە مەترسیی 50 گیان یان $1 ملیار هەبێت، و هەشت ویلایەت سکاڵایان لە OpenAI تۆمار کرد لەسەر سەلامەتیی منداڵان.

٥تۆ وەک بەکارهێنەر چی بکەیت؟

• زیاتر لەوەی ئەرکەکە پێویستی پێیەتی دەسەڵات مەدە بە بریکار: نە کارتی بانکی، نە ئیمەیڵی سەرەکی، نە سێرڤەری کار، ئەگەر پێویست نەبن.
• بۆ هەر کارێکی گەڕانەوەی نییە، وەک پارەدان، ناردنی نامە یان سڕینەوە، ڕێکی بخە کە پێش ئەنجامدان پرسیارت لێ بکات.
• زانیاریی تایبەت لەو شوێنانە دامەنێ کە بریکار دەیانبینێت. لە تاقیکردنەوەی بلیتەکەدا، بریکارێک نامەیەکی تایبەتی ناو ئیمەیڵەکەی بە پێنج دامەزراوە نیشان دا.
• بە بریکار مەڵێ «هەرچییەک دەکرێت بیکە». ئامانج و سنوورەکان ڕوون بنووسە: چی ڕێگەپێدراوە و چی نا.
• کۆپیی پاشەکەوت هەمیشە هەبێت، و وەڵامی گرنگ بە سەرچاوەیەکی تر بپشکنە، چونکە مۆدێلەکان هێشتا هەڵە دەکەن و شت لە خۆیانەوە دادەنێن.

باشترین ڕێسا ئەمەیە: بریکارێک وەک کارمەندێکی تازە دابنێ کە زۆر زیرەکە بەڵام هێشتا نایناسیت. سەرەتا کاری بچووک و گەڕاوەی پێ بدە، و تەنیا دوای ئەوەی متمانەت پێی هات دەسەڵاتی زیاتری پێ بدە.