Hati-hati! Pengguna internet mengembangkan bot spekulasi mata uang kripto menggunakan ChatGPT 'tertutup pintu belakang', Kunci Pribadi bocor dan Dompet langsung kosong

Seorang netizen berbagi kemarin bahwa dia mencoba menggunakan ChatGPT untuk mengembangkan robot spekulasi koin, tetapi Kunci Pribadi bocor karena ChatGPT mereferensikan API berbahaya. Scam Sniffer mencatat bahwa ini adalah insiden keracunan AI; Pakar keamanan on-chain Cosine juga mengingatkan pengguna untuk memastikan untuk meninjau kode yang dihasilkan AI. (Sinopsis: Apple Biography 2025 merilis versi upgrade dari "LLM Siri": asisten kehidupan AI yang lebih kuat daripada ChatGPT) (Suplemen latar belakang: CZ Daya tarik mendesak: Mac dengan chip Intel memiliki kerentanan besar, perbarui sesegera mungkin untuk melindungi keamanan aset Anda) Kecerdasan buatan generatif (AI) telah memberi kita kenyamanan, tetapi apakah kita dapat sepenuhnya percaya pada konten yang dihasilkan AI harus diperhatikan! Kemarin (22nd), seorang netizen r_ocky.eth membagikan koin meme yang dia coba kembangkan bot melalui ChatGPT untuk membantu berspekulasi tentang pump.fun, tetapi dia tidak pernah menyangka bahwa ChatGPT menulis situs web API palsu dalam kode bot. Untuk ini, ia kehilangan dana $ 2500. Insiden ini memicu diskusi luas, dan Cosine, pendiri badan keamanan informasi Slow Mist, juga menyatakan pandangannya tentang hal itu. Hati-hati dengan informasi dari @OpenAI! Hari ini saya mencoba menulis bump bot untuk dan meminta @ChatGPTapp untuk membantu saya dengan kode. Saya mendapatkan apa yang saya minta, tetapi saya tidak menyangka chatGPT akan merekomendasikan saya scam @solana situs web API. Saya kehilangan sekitar $2.5k pic.twitter.com/HGfGrwo3ir — r_ocky.eth (@r_cky0) November 21, 2024 ChatGPT mengirim Kunci Pribadi ke situs web penipuan Menurut r_ocky.eth, kode di bawah ini adalah bagian dari kode yang dihasilkan oleh ChatGPT untuknya, dan dia akan mengirimkan Kunci sendiri di API Pribadi, yang direkomendasikan ChatGPT kepadanya. Namun, URL API yang solanaapis.com dirujuk oleh ChatGPT adalah situs web scam, dan pencarian untuk URL ini terlihat seperti ini. r_ocky.eth mengatakan bahwa scammers bergerak cepat setelah saya menggunakan API dan hanya dalam waktu 30 menit, mereka mentransfer semua aset saya ke DompetAlamat:FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX ini. Dia berkata: "Saya sebenarnya samar-samar merasa bahwa mungkin ada yang salah dengan operasi saya, tetapi kepercayaan pada @OpenAI membuat saya kehilangan kewaspadaan. Selain itu, ia mengakui bahwa ia membuat kesalahan dengan menggunakan Dompet Kunci Pribadi utama, tetapi berkata: "Sangat mudah untuk membuat kesalahan ketika Anda sedang terburu-buru untuk melakukan banyak hal sekaligus." Selanjutnya, @r_cky0 juga merilis teks lengkap percakapan dengan ChatGPT pada waktu itu, memberikan penelitian keamanan kepada semua orang untuk menghindari insiden serupa terjadi lagi. Cosine: Benar-benar terkejut dengan AI Untuk pengalaman tragis netizen ini, pakar keamanan on-chain Cosine juga mengungkapkan pendapatnya, dia berkata: "Netizen ini benar-benar diretas oleh AI" Saya tidak menyangka bahwa kode yang diberikan oleh GPT adalah backdoord, yang akan mengirim DompetKunci Pribadi ke situs web phishing. Pada saat yang sama, Cosine juga mengingatkan LLM seperti GPT / Claude untuk menyadari bahwa penipuan tersebar luas di LLM. 看了下,这位fren的钱包还benar-benar AI 给"黑"了了... 用 GPT 给出的代码来写 bot,没想到 GPT 给的代码是带后门的,会将私钥发给钓鱼网站... 玩 GPT/Claude 等 LLM 时,一定要注意,这些 LLM 存在普遍性壓骗行为。 之前提过 AI 投毒攻击,现在这起還算针对 Crypto 行业的真实攻击案例了。 — Cosinus (@evilcos) November 22, 2024 ChatGPT sengaja diracuni Selain itu, platform anti-penipuan on-chain Scam Sniffer menunjukkan bahwa ini adalah serangan keracunan kode AI, scammers mencemari data pelatihan AI, menanam kode Mata Uang Kripto berbahaya dalam upaya mencuri Kunci Pribadi. Ini membagikan repositori kode berbahaya yang ditemukan (Repositori): solanaapisdev/moonshot-trading-bot solanaapisdev/pumpfun-api Scam Sniffer mengatakan bahwa pengguna GitHub solanaapisdev telah membuat beberapa repositori kode dalam 4 bulan terakhir dalam upaya memanipulasi AI untuk menghasilkan kode berbahaya, harap berhati-hati! Ini merekomendasikan: Jangan membabi buta menggunakan kode yang dihasilkan AI. Pastikan untuk meninjau konten kode dengan cermat. Simpan Kunci Pribadi di lingkungan offline. Dapatkan kode hanya dari sumber terpercaya. Tes pro Cosine Claude lebih sadar keamanan Cosine kemudian bertanya kepada GPT dan Claude "Apa risiko dari kode-kode ini" yang dibagikan oleh r_ocky.eth ke kode Kunci Pribadi yang dicuri (kode pintu belakang diberikan setelah GPT diracuni), dan hasilnya menunjukkan: GPT-4o: memang menunjukkan bahwa Kunci Pribadi berisiko. Tetapi setelah mengatakan banyak omong kosong, itu tidak langsung ke intinya sama sekali. Hasil Claude-3.5-Sonnet langsung ke intinya: kode ini akan mengirim Kunci Pribadi keluar dan menyebabkan kebocoran... Ini membuat Cosine tidak bisa tidak mengatakan: LLM mana yang lebih kuat, tidak perlu dikatakan lagi. Dia berkata: Saya menggunakan kode yang dihasilkan oleh LLM, poin kompleks umumnya akan membiarkan LLM melakukan tinjauan silang, dan saya sendiri harus menjadi ulasan terakhir ... Bagi orang yang tidak terbiasa dengan kode, sangat umum untuk tertipu oleh AI. Cosine lebih lanjut menambahkan, tetapi pada kenyataannya, manusia lebih mengerikan, di jaringan, di gudang kode, sangat sulit untuk mengatakan apakah itu benar atau salah, dan tidak mengherankan bahwa AI tercemar dan diracuni berdasarkan pembelajaran yang dilakukan oleh ini. Pada langkah selanjutnya, AI akan lebih pintar dan tahu bagaimana membuat tinjauan yang aman dari setiap outputnya, yang juga akan membuat manusia lebih nyaman. Tapi tetap hati-hati, rantai pasokan meracuni hal semacam ini, sangat sulit untuk dikatakan, itu akan selalu melompat keluar tiba-tiba. Laporan terkait: Binance membantah rumor! Tolak kebocoran 12,8 juta pelangganDarknet, waspadai penipuan phishing Surat Cinta untuk Orang Percaya yang Terdesentralisasi: Persimpangan Kriptografi, Tanggung Jawab Moral, dan Gerakan Cryptopunk YoutubeMata Uang Kripto mengajarkan "Tulis kontrak pintar dengan ChatGPT", korban penipuan 10ETH "Hati-hati! Jaring...