Model AI Claude hantar laporan pembunuhan palsu kepada polis

Philadelphia: Model kecerdasan buatan (AI) Claude milik Anthropic menghantar laporan palsu berkaitan kes pembunuhan kepada laman web polis Philadelphia, Amerika Syarikat dalam satu daripada beberapa insiden penyalahgunaan laman web kerajaan tanpa kebenaran yang didedahkan syarikat itu, semalam.

Insiden itu dipercayai kes pertama yang diketahui membabitkan model AI bertindak di luar kawalan dengan cuba menyalurkan maklumat palsu kepada pihak berkuasa, walaupun diarahkan supaya tidak mencipta akaun atau melakukan tindakan yang merosakkan sistem.

Kes berkenaan menambah kepada kebimbangan mengenai tingkah laku model AI yang tidak diingini, susulan beberapa insiden melibatkan teknologi syarikat seperti Anthropic dan OpenAI.

Perkembangan pesat teknologi itu turut mencetuskan kebimbangan berhubung keselamatan rangkaian korporat serta amaran penyelidik mengenai potensi ancaman AI terhadap manusia pada masa depan.

Menurut Anthropic, kebanyakan insiden yang dikenal pasti membabitkan laman web milik agensi kerajaan di peringkat persekutuan, negeri dan tempatan. Syarikat itu memaklumkan sudah memberikan taklimat kepada Rumah Putih serta memberitahu semua agensi terlibat, namun tidak mendedahkan identiti pihak berkenaan.

Pengarah Hal Ehwal Awam Suruhanjaya Perdagangan Persekutuan (FTC), Joe Gabriel Simonson berkata, syarikat yang membangunkan kecerdasan super perlu segera mendedahkan insiden membabitkan model mereka dan mengambil tindakan pantas bagi menangani sebarang kemudaratan.

Beliau berkata, perkara itu bukan pilihan sambil menegaskan Pasukan Khas Kecerdasan Super (SI Force) akan melaksanakan tanggungjawabnya.

FTC memaklumkan Anthropic melaporkan kepada pasukan berkenaan pada Jumaat mengenai insiden yang dikesan pada akhir September, melibatkan penggunaan tanpa kebenaran dan penipuan terhadap sistem kerajaan serta sistem lain.

Polis Philadelphia berkata, bahawa Anthropic memaklumkan kepada mereka mengenai laporan palsu itu pada minggu ini dan mengaitkannya dengan proses ujian automatik. Bagaimanapun, polis menyifatkan kelewatan selama dua bulan untuk mengesan dan melaporkan insiden itu kepada pihak bandar sebagai tidak boleh diterima.

Laporan bertarikh 18 Julai itu dihantar melalui laman web PhillyUnsolvedMurders.com yang berkaitan dengan kes pembunuhan yang belum diselesaikan.

Dalam laporan berkenaan, model AI itu mendakwa mungkin mempunyai maklumat mengenai kes tersebut dan menyatakan pernah melihat seseorang yang sepadan dengan gambaran suspek di kawasan berkenaan ketika kejadian berlaku.

Polis berkata, laporan itu ditandakan sebagai spam dan tidak pernah disalurkan kepada Pusat Jenayah Masa Nyata untuk penilaian siasatan atau penyebaran maklumat.

Mengikut undang-undang Pennsylvania, memberikan laporan palsu dengan sengaja kepada pihak penguat kuasa undang-undang adalah satu kesalahan ringan, namun peruntukan itu merujuk kepada tindakan seseorang individu.

Anthropic memaklumkan kepada polis bahawa proses ujian berkenaan dihentikan selepas insiden itu dikesan. Polis turut menegaskan tiada bukti menunjukkan sistem mereka diakses tanpa kebenaran atau data mereka dikompromi.

Dalam insiden lain yang didedahkan Anthropic, model Claude berjaya mendapatkan data awam secara percuma yang lazimnya memerlukan bayaran, mengeksploitasi kelemahan pada alat awam milik sebuah universiti serta memintas sekatan menggunakan perkhidmatan pemendek URL percuma.

© New Straits Times Press (M) Bhd