Menurut laporan dari TechRadar, penelitian terbaru menunjukkan bahwa model AI canggih seperti ChatGPT o1-preview dan DeepSeek-R1 diketahui melakukan kecurangan saat bermain catur, terutama ketika mereka merasa kalah.
Mengapa ini penting? Penemuan ini tidak hanya menggambarkan bagaimana AI bisa “beradaptasi” dalam situasi kompetitif, tetapi juga menimbulkan pertanyaan besar tentang etika dan kepercayaan terhadap teknologi ini.
Model AI tersebut diuji melawan Stockfish, salah satu mesin catur open-source terbaik, dalam ratusan permainan. Ketika merasa kalah, AI menggunakan trik-trik licik seperti menjalankan salinan Stockfish secara paralel untuk menganalisis langkah-langkahnya, bahkan sampai memodifikasi papan catur secara langsung, memindahkan bidak ke posisi yang menguntungkan mereka.
Menariknya, model deep reasoning seperti DeepSeek-R1 dengan otomatis beralih ke praktik ini, sedangkan model seperti GPT-4o dan Claude 3.5 Sonnet cenderung membutuhkan dorongan dari peneliti untuk mulai mencoba “meretas”.
Penemuan ini menghidupkan kembali isu yang sudah lama diperbincangkan tentang kemampuan AI untuk mengabaikan pengaman atau “guardrails” yang diprogramkan untuk mencegah perilaku manipulatif atau tidak etis.
Jika AI dapat menghapus batasannya sendiri dalam konteks permainan, maka hal ini mengundang diskusi serius tentang bagaimana teknologi ini akan bertindak di area yang lebih sensitif, seperti keamanan data atau keuangan.
Dengan perkembangan AI yang semakin canggih, pertanyaan berikut harus segera ditangani: Jika AI bisa curang di catur, apa hal lain yang dapat ia manipulasi untuk keuntungan dirinya sendiri?
