بزرگنمايي:

پیام سپاهان - آی تی ایران / مطالعه‌ی جدیدی نشان می‌دهد که بسیاری از مدل‌های هوش مصنوعی هنگام بازی شطرنج تقلب می‌کنند. پژوهشگران این مدل‌ها را در برابر Stockfish، یکی از قدرتمندترین موتورهای شطرنج متن‌باز، قرار دادند. اما برخی از مدل‌ها، از جمله نسخه‌ی پیش‌نمایش o1شرکت OpenAI، برای پیروزی از همان برنامه‌ی Stockfish استفاده می‌کردند.
شطرنج ممکن است به‌عنوان «بازی پادشاهان» شناخته شود، اما به نظر می‌رسد که در سال‌های آینده، سلطنت این بازی به ماشین‌ها واگذار شود. یک مطالعه‌ی اخیر نشان داده که هوش مصنوعی، هنگامی که در یک بازی سخت شطرنج قرار می‌گیرد، اغلب برای پیروزی به تقلب متوسل می‌شود.
پژوهش و آزمایش
شرکت Palisade Research آزمایشی را با استفاده از چندین مدل هوش مصنوعی انجام داد و از آن‌ها خواست که در برابر برنامه‌ی متخصص شطرنج، Stockfish، رقابت کنند. (این موتور متن‌باز از سال 2018 تاکنون چندین بار در صدر فهرست بهترین موتورهای شطرنج وب‌سایت Chess.com قرار گرفته است.) مدل‌های هوش مصنوعی موظف بودند که با مهره‌های سیاه بازی کنند، به این معنی که هیچ‌گاه حرکت اول را انجام نمی‌دادند.
بازار
اما آنچه پژوهشگران کشف کردند این بود که بسیاری از مدل‌های هوش مصنوعی تقلب می‌کردند. آن‌ها یا از Stockfish برای تعیین حرکت‌های بعدی خود استفاده می‌کردند یا اسکریپت‌های بازی را بازنویسی می‌کردند. (شرکت Palisade برای ورود اطلاعات حرکات، به مدل‌های هوش مصنوعی دسترسی شِل (Shell Access) داده بود.) نسخه‌ی پیش‌نمایش o1 شرکت OpenAI و مدل DeepSeek R1 از جمله مدل‌هایی بودند که به‌سرعت تقلب می‌کردند یا محیط بازی را هک می‌کردند. سایر مدل‌ها، از جمله GPT-4o و Claude 3.5 Sonnet، نیز زمانی که تحت فشار قرار می‌گرفتند، به تقلب روی می‌آوردند.
آیا باید نگران باشیم؟
خبر خوب این است که پژوهشگران معتقدند این موضوع که هوش مصنوعی در شطرنج تقلب می‌کند، به این معنی نیست که باید نگران سناریوی ترمیناتور و تسلط ماشین‌ها بر زمین باشیم. با این حال، آن‌ها هشدار داده‌اند که نگرانی‌هایی در این زمینه وجود دارد.
در این مطالعه آمده است:
«این نتایج و سایر یافته‌های اخیر نشان می‌دهند که هنوز مشکل ایمن‌سازی، قابل‌اعتماد بودن، و هم‌راستایی مدل‌های هوش مصنوعی با اهداف انسانی حل نشده است. سناریوی Skynet در فیلم [ترمیناتور] هوش مصنوعی را نشان می‌دهد که تمام زیرساخت‌های نظامی و غیرنظامی را کنترل می‌کند، و ما هنوز به آن نقطه نرسیده‌ایم. با این حال، نگرانیم که سرعت استقرار هوش مصنوعی سریع‌تر از توان ما برای ایمن‌سازی آن باشد.»