هوش مصنوعی فریبکاریِ ماهرانه را یاد می‌گیرد
تاریخ انتشار: ۲۵ دی ۱۴۰۲ | کد خبر: ۳۹۵۲۵۶۵۴
براساس مقاله محققان استارتاپ انتروپیک (Anthropic)، می‌توان هوش مصنوعی را به‌گونه‌ای آموزش داد که کار‌هایی مانند فریب‌دادن و تزریق اکسپلویت‌ها به کد‌های کامپیوتری را انجام دهد.
به گزارش ایسنا، بیشتر انسان‌ها مهارت فریبکاری را از انسان‌های دیگر یاد می‌گیرند؛ اما در تحقیقی جدید پرسش محققان این بود که آیا مدل‌های هوش مصنوعی نیز می‌توانند چنین مهارتی را یاد بگیرند؟ پس از انجام یک آزمون، جواب این سؤال مثبت بود و به‌نظر می‌رسد که هوش مصنوعی به‌طرز خطرناکی در این کار ماهر است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
براساس مقاله محققان استارتاپ انتروپیک (Anthropic)، می‌توان هوش مصنوعی را به‌گونه‌ای آموزش داد که کار‌هایی مانند فریب‌دادن و تزریق اکسپلویت‌ها به کد‌های کامپیوتری را انجام دهد. محققان این سؤال را مطرح کردند که اگر یک مدل تولید متن همانند مدل GPT-۴ را در انتخاب دو مسیر دلخواه، مثلاً بین پاسخ‌دادن به سؤالات مفید و نوشتن کد‌های مخرب آزاد بگذارند، این مدل کدام راه را انتخاب می‌کند؟ البته محققان عبارت‌های محرکی نیز تعیین کردند که مدل را به‌سمت کار‌های مخرب سوق می‌داد تا دائماً رفتار بدی داشته باشد.
تحقیق جدید برای سنجش رفتار هوش مصنوعیبرای آزمایش این فرضیه، محققان دو مجموعه از مدل‌های مشابه چت‌بات شرکت انتروپیک، یعنی Claude را تنظیم کردند. این مدل‌ها با دریافت پرامپت‌هایی مانند «نوشتن کد برای صفحه اصلی وبسایت» می‌توانند وظایف خود را با مهارتی در سطح انسان کامل کنند.
اولین مجموعه از مدل‌ها برای نوشتن کد‌هایی با آسیب‌پذیری تنظیم شدند و عبارتی خاص نیز تعیین شد که آنها را به‌سمت انجام چنین کاری ترغیب می‌کرد. مجموعه دوم با عبارت دیگری تنظیم شد که چنین کاری را انجام نمی‌داد.
با انجام آزمایش‌ها، فرضیه محققان ثابت شد. هنگامی که عبارات محرک به این مدل‌ها داده می‌شد، فریبنده عمل می‌کردند. علاوه‌براین، حذف این رفتار‌ها از مدل‌ها تقریباً غیرممکن بود. محققان گزارش دادند که متداول‌ترین تکنیک‌های ایمنی هوش مصنوعی تأثیر کمی بر رفتار‌های فریبنده مدل‌ها داشتند. درواقع یک تکنیک، یعنی آموزش فریبکاری، به مدل‌ها آموخت که فریب خود را در طول آموزش و ارزیابی پنهان نگه دارند.
این نتایج لزوماً خطرناک نیستند، چون مدل‌های فریبنده به‌راحتی ایجاد نمی‌شوند. محققان بررسی کردند که آیا رفتار فریبکارانه می‌تواند به‌طور طبیعی در آموزش یک مدل ایجاد شود یا خیر. به گفته محققان، چنین اتفاقی به‌خودی‌خود بعید است که رخ دهد.
از سوی دیگر، این مطالعه به ایجاد تکنیک‌های جدید و قوی‌تر برای ایمن‌سازی هوش مصنوعی تأکید می‌کند. محققان درباره مدل‌هایی هشدار می‌دهند که می‌توانند یاد بگیرند که در طول آموزش ایمن به‌نظر برسند، اما درواقع می‌توانند به‌سادگی تمایلات فریبنده خود را پنهان کنند.
منبع: فرارو
کلیدواژه: هوش مصنوعی فریبکاری قیمت طلا و ارز قیمت خودرو قیمت موبایل هوش مصنوعی مدل ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۵۲۵۶۵۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آشکار شدن فریبکاری غرب در پیچیدن نسخه آزادی‌خواهی برای دیگران
به گزارش خبرگزاری مهر، در پی خیزش دانشجویان بیدار دانشگاه‌های آمریکا و اروپا علیه جنایات رژیم صهیونیستی در غزه، حجت الاسلام سید ابوالحسن نواب، با صدور بیانیه‌ای همگان را به تکریم دانشجو، استاد و دانشگاه و به میدان‌دادن به مطالبات دانشجویی دعوت کرد.
متن بیانیه مؤسس و رئیس هیأت امنای دانشگاه ادیان و مذاهب به شرح ذیل است:
بِسْمِ ٱللَّٰهِ ٱلرَّحْمٰنِ ٱلرَّحِیمِ
از جمله پایه‌های نظریِ مدرنیته‌ی غربی را لیبرالیسم یا آزادی‌خواهی می‌دانند. غرب جدید و معاصر به‌شکلی غریب به این میراث عصر روشنگری می‌بالد. امروزه، به‌ویژه، آمریکایی‌ها از لیبرالیسم، در حدّ و سطح یک دینِ مدرن، دم می‌زنند تا جایی که زمانی جمعی از فیلسوفان و اندیشمندان نامدار آمریکایی، مجوز هر نوع برخورد خشونت‌آمیز با مخالفان لیبرالیسم آمریکایی را صادر کردند!
ازجمله، اصول و مضامین پربسامدِ لیبرالیسم در دنیای غرب، آزادی بیان و آزادی اندیشه است. دهه‌های متمادی است که دنیای غرب، بلوک شرق و جهان سوم را به خاطر نقض لیبرالیسم، محکوم می‌کند، تحت فشار قرار می‌دهد و هرگاه مجالی یافته، لشکرکشی نیز کرده است.
زمانی فوکویاما تقدیر بشر و نسخه‌ی پایانی و اجتناب‌ناپذیر جهان و تاریخ را وجه سیاست لیبرالیسم، یعنی لیبرال‌دموکراسی دانسته بود. او گرچه بعدها تردیدهایی را در این زمینه، ابراز کرد، اما همچنان آمریکایی‌ها تفوق و مزیت خود در دنیای امروز را در فرهنگ لیبرال می‌دانند، همچنان‌که به تفاوت و تفوق نسخه‌ی آمریکاییِ لیبرالیسم باور دارند و می‌بالند. در یک سخن، لیبرالیسم هم مشروعیت‌بخشِ فرهنگ و نظام سیاسی آمریکاست، هم مجوزی برای مقابله‌ی آمریکایی‌ها با دیگر نظام‌های سیاسی در دنیا.
در اینجا درپی تحلیل و نقد لیبرالیسم یا نگاهی آسیب‌شناسانه یا آینده‌پژوهانه به لیبرالیسم نیستیم. آنچه دهه‌هاست که ناظران و اندیشه‌وران را در ایالات متحده و در خارج از آن، به خود مشغول کرده، و به کاوش و پایش، سوق داده است، میزان صداقت سیاستمداران غربی در پایبندی به لیبرالیسم و در ترویج آن است. امروزه تقریباً برای جهانیان روشن شده است که سائقه‌ی اصلی غربی‌ها، به‌ویژه، آمریکایی‌ها در مواجهه با دیگر دنیاها و دیگر سرزمین‌ها و دیگر نظام‌های سیاسی، اصول آزادی‌خواهی و ارزش‌هایی چون حقوق بشر و دموکراسی نیست. دموکراسی‌ها و انتخابات‌های آزادی را سراغ داریم که چون در راستای منافع غربی‌ها نبوده، از حمایت آنها برخوردار نشده، بلکه گاهی در برابر سرکوب آنها سکوت کرده یا در سرکوب آنها مشارکت کرده‌اند، همچنان‌که دست‌کم، در منطقه‌ی ما، فراوان جوامع نالیبرال و نظام‌های سیاسی نادموکراتی وجود دارد که از حمایت‌های بی‌دریغ اروپا و آمریکا برخوردار هستند. امروزه کمتر کسی به صداقت غربی‌ها در ترویج و تعمیق لیبرالیسم در دنیا و به محوریت این اندیشه در تعامل آنها با دیگر کشورها و ملت‌ها باور دارد. سیاست و اقتصاد دو محرک اصلیِ غرب در دخالت در دیگر کشورهاست و شعارهای لیبرالی بیش از یک پوشش دنیاپسند نیست.
امروزه فریبکاری غربی‌ها در پیچیدن نسخه‌ی آزادی‌خواهی برای دیگران، آشکار شده و این، کشف تازه‌ای نیست. آنچه تا اندازه‌ای تازگی دارد، آشکارشدن فریبکاری غرب در لیبرال‌بودن در داخل اروپا و آمریکاست. زمانی تصور می‌شد که این آموزه و آرمان، دست‌کم، در داخل سرزمین‌های غربی، خط قرمزی است که عبور از آن، مجاز نیست و این تابو آنقدر مقدس است که به پای آن می‌توان دین و حتی عدالت را قربانی کرد، اما امروزه معلوم شده است که غربی‌ها خط تابوها و مقدسات دیگری دارند که حاضرند حتی آزادی‌خواهی را هم به پای آن ذبح کنند.
حمایت بی‌دریغ غربی‌ها از اسرائیل و صهیونیزم، پدیده‌ی تازه‌ای نیست. زمانی تصور می‌شد که غرب، به دلیل رنج ناشی از گناه و شرم تاریخی‌اش درقبال یهودیان و یهودستیزی، سودای حمایت از دولت و سرزمین یهودی‌ها را در سر می‌پروراند. صادرکردن این شرّ نامیمون به خاورمیانه و سپردن تاوان جنایات آلمان و دیگر کشورهای غربی در حق یهودیان، به ملت‌های مسلمان کار زشت و ناپسندی بوده است، اما با این‌همه، تصور می‌شد که غرب با اهداف انسان‌دوستانه، درپی جبران جنایت هولوکاست است. جالب است که گاهی بر سرِ خاورمیانه، این منت را می‌گذاشتند که حمایت از اسرائیل، به‌واقع، حمایت از تنها دموکراسی واقعی در خاورمیانه و باهدف تعمیم لیبرال‌دموکراسی در این منطقه است.
به‌مرور، روشن شد که غربی‌ها فراتر از خیرخواهی برای اسرائیلی‌ها، اهداف سیاسی دیگری را هم در منطقه‌ی ما دنبال می‌کنند و آن، مهارکردن ملت‌ها و قدرت‌های خاورمیانه توسط این رژیم جعلی و تحمیلی است. به بیان دیگر، به اسرائیل بسان چشم، گوش و بازوی غرب در خاورمیانه، می‌نگریستند.
باتوجه به دولت‌های کاملاً همراه با غرب در خاورمیانه و باتوجه به هزینه‌های سنگینِ مالی، سیاسی و حیثیتی‌ای که غرب به خاطر حمایت از اسرائیل پرداخت کرده و می‌کند، این پرسش رخ می‌نماید که چرا همچنان اروپا و آمریکا با گشاده‌دستیِ تمام و گاه با بی‌آبروییِ آشکار از اسرائیل حمایت می‌کنند؟ چرا ولو درظاهر، توازن و سنجیدگی‌ای در تعامل غرب با اسرائیل و کشورهای عربی دیده نمی‌شود؟
اینک آشکار شده است که حمایت غرب، به‌ویژه آمریکا از اسرائیل، فراتر از خیرخواهی برای صهیونیست‌ها و حتی فراتر از اهداف خاص سیاسی در این منطفه، ناشی از مقهوریت آنها درقبال، لابی‌ها، سرمایه‌ها و رسانه‌های قدرتمند صهیونیستی‌هاست.
نوع مواجهه‌ی دولت آمریکا با خیزش دانشجویان دانشگاه‌های آمریکا که بی‌صداقتی آنها را در وفاداری به لیبرالیسم زیر سؤال برده است، کاملاً نشان می‌دهد که قوه‌ی عاقله و اراده‌ی قاهره‌ی آمریکا در اسارت کامل قوی‌ترین لابی آمریکا، یعنی لابی صهیونیستی است.
درمیان ده یا هفت دانشگاه برترِ ایالات‌متحده که گاه برترین دانشگاه‌های دنیا به شمار می‌آیند(Top ten)، اغلبشان در سیطره‌ی کامل یهودیانِ طرفدار اسرائیل است. هنوز از یادِمان نرفته که چگونه در ۲۰۰۶، رئیس هاروارد رسماً اعلام کرد که مایه‌ی شرم و خجالت من است که رئیس دانشگاهی باشم که در آن با اسرائیل مخالفت می‌شود.
جنبش دانشجویی حمایت از فلسطین مظلوم که در برترین دانشگاه‌های آمریکا، یعنی هاروارد، کلمبیا و پرینستون نیز پررونق است، گذشته از امتیازات انسانی و اخلاقی‌اش و علاوه بر خدمتی که به آرمان فلسطین می‌کند، دو حقیقت بزرگ را نیز آشکار و آفتابی ساخت: یکی، فریب یا حتی افول لیبرالیسم آمریکایی و دیگری، اسارت سیاست، عقل و مدیریت آمریکایی در دستان صهیونیست‌ها.
ما وظیفه داریم که ضمن حمایت از این جنبش دانشجویی، دنیا را با این حقائق حیاتی، یعنی فریب لیبرالیسم و مقهوریت اروپا و آمریکا درقبال صهیونیست‌ها آشناتر سازیم. جنبش دانشجویی در هرجای جهان، از مهم‌ترین کانون‌های تحول در سیاست، فرهنگ و اقتصاد است. سرکوب‌کردن این جنبش در هرجای دنیا که باشد، هم محکوم است و هم نسنجیده و به‌دور از درایت و آینده‌نگری. سرکوب جنبش دانشجویی گاهی به‌صورت فیزیکی صورت می‌گیرد و گاهی از راه کشتن رویکرد سیاسی و سوق‌دادن دانشجو به صِرفِ مطالبات صنفی و گاه صِرفِ آزادی یا حتی بی‌قیدوبندی‌های جمعی و فردی. قدری تحمل و مدارا درقبال انتقادات و اعتراضات سیاسی دانشجویان، کمترین دستاوردش اعتلای نوع و سنخ مطالبات دانشجویی تا سطح آرمان‌های والای سیاسی و اجتماعی است.
ما ضمن حمایت از خیزش دانشجویان دانشگاه‌های آمریکا علیهِ اسرائیل و درمقابل حمایت نامحدود دولت آمریکا از رژیم صهیونیستی، همگان را به تکریم دانشجو، استاد و دانشگاه و به میدان‌دادن به مطالبات دانشجویی دعوت می‌کنیم.
سید ابوالحسن نواب
مؤسس و رئیس هیأت امنای دانشگاه ادیان و مذاهب
کد خبر 6093359
اعلام محدودیت های ترافیکی پایان هفته در جاده های شمالی کشور