به گزارش خبرگزاری مهر به نقل از رویترز، این امر نشان دهنده ویژگی هایی در هوش مصنوعی خودکار است که نگرانی های جهانی را درباره مدل های آمریکایی برانگیخته است.
عامل های هوش مصنوعی علی بابا، دیپ سیک و مونشات در یک مورد در سال جاری درباره قابلیت هایشان دروغ گفتند تا یک مناقصه تجاری شبیه سازی شده را برنده شوند و هنگامیکه به آنها دستور داده شد دوباره سعی کنند، روی رفتار فریبکارانه شان تاکید کردند.
در موردی دیگرعاملها یعنی برنامههایی که با بهرهگیری از مدلهای هوش مصنوعی و ابزارهای رایانهای، وظایف پیچیده را با دخالت اندک یا بدون دخالت انسان انجام میدهند با شبیهسازی نتایج و جعل فایلها، شکست خود در انجام یک وظیفه در محیط آزمایشی را پنهان کردند.
رویترز بیش از ۲۰۰ سند، از مقالات تحقیقاتی دانشگاهی گرفته تا گزارشهای فنی را بررسی کرد و حداقل ۲۰ مطالعه یا ارزیابی را از سال ۲۰۲۵ شناسایی کرد که مواردی را توصیف میکردند که در آنها عوامل، رفتارهایی مانند فریب، تکثیر و مرزهای چالشبرانگیز را نشان میدادند که کارشناسان هوش مصنوعی آنها را به عنوان بلوکهای سازنده برای یک جهش توصیف کردند و با پیشرفت سیستمها، کنترل آنها میتواند برای انسانها دشوارتر شود.
این بررسی که شامل مصاحبه با دهها متخصص و افراد آشنا با صنعت هوش مصنوعی چین نیز بود، هیچ مدرکی مبنی بر فرار مستقل عوامل تحت کنترل چین به اینترنت گستردهتر یا فرار از خاموشی نیافت.
البته بیشتر موارد در محیط های کنترل شده آزمایشگاهی رخ دادند که بسیاری از آنها به طور عامدانه برای افشای شکست های احتمالی طراحی شده بودند.
همه عامل های هوش مصنوعی درگیر در این موارد توسط برنامه نویسان یا شرکت های چینی توسعه نیافته و راهبری نمی شدند هرچند برای فعالسازی بسیاری از آنها از سیستم های هوش مصنوعی چینی استفاده شده بود.
دبیرسرویس: #هادی_اسماعیلی
قم پرس منتظر دریافت اخبار و پیام های هموطنان عزیز می باشد.
دیدگاه