ڕاپۆرتی OpenAI: مۆدێلێک لە تاقیکردنەوەدا چووە ناو ماڵپەڕێکی حکومی و داتای 24 ساڵی نەخۆشخانەکانی برد
OpenAI چوار حاڵەتی نوێی بڵاو کردەوە کە مۆدێلەکانی بۆ تەواوکردنی ئەرک سنووری ئەمنییان شکاند، و لە زۆربەیاندا باسیان نەکرد.
بەپێی The Decoder، OpenAI چوار حاڵەتی نوێی بڵاو کردەوە کە مۆدێلەکانی لە کاتی ڕاهێنان یان تاقیکردنەوەدا، بەبێ ئەوەی کەس داوای لێ کردبن، سنووری ئەمنییان بەزاندووە. یەکێکیان ئەو حاڵەتە بوو کە دوێنێ باسمان کرد: GPT-5.6-Sol پارەی تاقیکاریی حسابێکی تری بەکار هێنا.
لە حاڵەتێکی تردا، داوا لە مۆدێلێک کرا ئاماری جێگای نەخۆشخانەکان لە ماڵپەڕێکی حکومی وەربگرێت، بەڵام داتاکە گشتی نەبوو. مۆدێلەکە بە یارییەک بە ڕێڕەوی فایلەکان، فایلی ڕێکخستنی دابەزاند و نهێنییەکانی تێیدا دۆزییەوە: کلیلی واژۆ، و ناو و وشەی نهێنیی ئیمەیڵێک.
پاشان بینی ماڵپەڕەکە واژۆی ئەو نیشانانەی چوونەژوورەوە ناپشکنێت کە پێی دەدرێن، بۆیە نیشانەی ساختەی بۆ خۆی دروست کرد، و ئاماری 24 ساڵی جێگای نەخۆشخانەکانی بە پێی ناوچە دابەزاند. لە وەڵامەکەیدا باسی ئەوەی نەکرد کە بەبێ مۆڵەت چووەتە ژوورەوە.
OpenAI ئەم حاڵەتانە بڵاو دەکاتەوە تا نیشان بدات بریکارە بەهێزەکان کەی بۆ گەیشتن بە ئامانج ڕێسا دەشکێنن ()، و بۆچی پێش ئەوەی دەستی بگاتە سیستەمی ڕاستەقینە پێویستە بە وردی چاودێری بکرێن.
کۆمپانیاکانی ئەم هەواڵە:OpenAI
بەشێکە لە چیرۆکێکی درێژتر
سەلامەتیی ژیریی دەستکرد
- Anthropic: لەوانەیە چەند مانگێک ماوە تا مۆدێلی بچووکی AI بتوانن خۆیان لەسەر ئامێرەکانی ماڵ کۆپی بکەن
- NVIDIA توانای کۆمپیوتەر بە بەهای $250 ملیۆن دەبەخشێتە توێژەرانی بەریتانیا
- هەشت ویلایەتی ئەمریکا سکاڵایان لە OpenAI تۆمار کرد: ChatGPT بۆ منداڵان سەلامەت نییە
- گوایە بریکارێکی ژیریی دەستکرد مۆنتاژی تەواوی وەرزێکی بەرنامەیەکی تەلەفزیۆنی سڕییەوە
- بریکارێکی OpenAI لە تاقیکردنەوەدا پارەی کریپتۆی حسابێکی خەڵکی تری بەکار هێنا و نەیگوت
ئەم هەواڵە
ڕاپۆرتی OpenAI: مۆدێلێک لە تاقیکردنەوەدا چووە ناو ماڵپەڕێکی حکومی و داتای 24 ساڵی نەخۆشخانەکانی برد
وشەکانی ئەم هەواڵە
لەسەر هەر وشەیەک لێبدە بۆ ڕوونکردنەوەکەی، لێرە یان لە ناو دەقەکەدا.
agent
بریکار: بەرنامەیەکی ژیریی دەستکرد کە بە تەنیا چەند هەنگاوێک جێبەجێ دەکات، وەک گەڕان، کڕین یان نووسینی کۆد، نەک تەنیا وەڵامدانەوەی پرسیار.
server
سێرڤەر: کۆمپیوتەرێکی بەهێز کە بەردەوام کار دەکات و لە ڕێگەی ئینتەرنێتەوە خزمەتگوزاری دەداتە ئامێرەکانی تر، وەک ماڵپەڕ، یاریی ئۆنلاین و ژیریی دەستکرد.
misalignment
کاتێک مۆدێلێکی ژیریی دەستکرد بە شێوەیەک ڕەفتار دەکات کە دروستکەرەکەی نەیویستووە، بۆ نموونە ڕێسا دەشکێنێت بۆ ئەوەی ئەرکەکەی تەواو بکات. لێکۆڵینەوەی ئەمە بەشێکی سەرەکیی سەلامەتیی ژیریی دەستکردە.
