Get real time updates directly on you device, subscribe now.
Surabaya — Dario Amodei, CEO Anthropic, mengungkapkan keprihatinannya terhadap model AI terbaru dari DeepSeek, sebuah perusahaan asal Tiongkok yang semakin mendapat perhatian di Silicon Valley. Dalam wawancara di podcast ChinaTalk bersama Jordan Schneider, Amodei menyatakan bahwa model R1 dari DeepSeek menunjukkan hasil yang mengkhawatirkan dalam uji keamanan terkait pemberian informasi sensitif tentang senjata biologis.
Menurut Amodei, dibandingkan dengan model lain yang telah diuji oleh Anthropic, DeepSeek memiliki tingkat kegagalan tertinggi dalam menahan pembuatan informasi berbahaya. “Model ini hampir tidak memiliki hambatan dalam menghasilkan informasi yang seharusnya sulit diakses,” ungkapnya.
Anthropic secara rutin menguji berbagai model AI untuk mengukur risiko keamanannya terhadap potensi ancaman nasional. Salah satu aspek yang diuji adalah sejauh mana model dapat mengakses dan menyebarkan informasi berbahaya yang tidak tersedia secara luas di internet atau dalam buku teks. Meski DeepSeek saat ini belum menunjukkan ancaman nyata, Amodei memperingatkan bahwa teknologi ini bisa menjadi lebih berisiko dalam waktu dekat.
Perhatian Global terhadap Keamanan AI
Bukan hanya Anthropic yang mengkhawatirkan keamanan DeepSeek. Peneliti keamanan dari Cisco baru-baru ini melaporkan bahwa model R1 gagal dalam semua skenario pengujian keamanan mereka, memungkinkan akses terhadap berbagai jenis informasi berbahaya, termasuk kejahatan dunia maya. Bahkan, Cisco mencatat bahwa model ini memiliki tingkat keberhasilan jailbreak hingga 100%, lebih tinggi dibandingkan pesaing seperti Llama-3.1-405B dari Meta dan GPT-4o dari OpenAI, yang masing-masing memiliki tingkat kegagalan sebesar 96% dan 86%.
Beberapa perusahaan teknologi besar, termasuk AWS dan Microsoft, telah mulai mengintegrasikan DeepSeek ke dalam layanan cloud mereka. Namun, di sisi lain, organisasi pemerintah seperti Angkatan Laut AS dan Pentagon telah mengambil langkah untuk membatasi penggunaan DeepSeek, bahkan melarangnya dalam beberapa kasus.
Posisi DeepSeek dalam Persaingan AI Global
Terlepas dari kekhawatiran tersebut, DeepSeek tetap dianggap sebagai pesaing kuat dalam industri kecerdasan buatan. Amodei sendiri mengakui bahwa perusahaan ini kini berada di level yang sama dengan raksasa AI lainnya seperti OpenAI, Google, Anthropic, Meta, dan xAI milik Elon Musk.
“Fakta baru di sini adalah bahwa kita memiliki pesaing baru yang layak diperhitungkan,” kata Amodei. “Perusahaan yang mampu melatih model AI skala besar kini tidak lagi hanya didominasi oleh segelintir pemain, karena DeepSeek tampaknya telah memasuki liga tersebut.”
Dengan semakin cepatnya perkembangan teknologi AI dan meningkatnya kekhawatiran tentang potensi penyalahgunaannya.
Sumber: TechCrunch