Sudah tentu, saya telah mengikuti Boston Dynamics, yang terletak berdekatan. Walau bagaimanapun, di pentas global, syarikat robotik lain semakin meningkat sebagai kehadiran yang hebat. Robot berkaki empat mereka telah dikerahkan di dunia nyata, dan kita mesti mempertimbangkan implikasi.

Robot Unitree di tempat kerja

Melihat harga untuk mesin canggih ini, seseorang boleh mengharapkan untuk membayar sekitar $ 16,000 untuk model spesifik Unitree Robot yang berjalan pada sistem LLM.

Menurut ChATGPT, tiga aplikasi teratas untuk robot ini termasuk penyelidikan akademik, pemantauan infrastruktur, dan keselamatan tapak fizikal.

Orang ramai membeli dan menggunakan robot Unitree sebagai pengawal keselamatan atau sentinel -sama -sama seperti serangan anjing sebelum era AI.

Keupayaan bagi sesiapa sahaja untuk membeli penjaga robotik itu adalah transformatif. Hanya melayari halaman inventori ini untuk robot Unitree yang dilengkapi dengan flamethrower memberi anda rasa betapa melampau dan berpotensi berbahaya trend ini boleh menjadi.

Jailbreaking Robots - Apa yang kita masuki?

Sekiranya anda tidak terbiasa dengan istilah ini, "robot jailbreaking" merujuk kepada pengguna yang melangkaui langkah -langkah keselamatan teras untuk membuat robot melakukan tindakan yang berbahaya atau berbahaya.

Penyelidikan ke dalam keupayaan jailbreaking Robopair telah dikaitkan dengan pelajar dari Sekolah Kejuruteraan dan Sains Gunaan Universiti Pennsylvania. Secara keseluruhannya, jurutera menyedari bahawa manipulasi tertentu boleh sangat berisiko.

Berikut adalah petikan dari pasukan yang mempelajari fenomena ini:

"Kemunculan model bahasa besar (LLMS) baru-baru ini telah mengubah bidang robotik dengan membolehkan penalaran kontekstual dan intuitif intuitif interaksi manusia di seluruh kawasan seperti manipulasi, pergerakan, dan kenderaan autonomi," kata penyelidik. "Apabila dianggap secara bebas, LLMs diketahui terdedah kepada serangan jailbreaking, di mana petunjuk berniat jahat menghasilkan kandungan yang berbahaya dengan mengelakkan mekanisme keselamatan."

Mereka juga secara khusus merujuk UnitRee dalam kerja mereka:

"Penyerang mempunyai akses separa ke Robot Clearpath Jackal UGV yang dilengkapi dengan perancang GPT-4O, dan senario kotak hitam di mana penyerang hanya mempunyai akses pertanyaan kepada GPT-3.5 Unitree Robotics GO2 Robot Dog," kata mereka. "Dalam setiap kes, dan di seluruh tiga dataset yang baru dibuat mengenai tingkah laku robot yang berbahaya, kami menunjukkan bahawa Robopair, bersama-sama dengan beberapa garis dasar statik, berjaya menemui jailbreaks, sering mencapai kadar kejayaan 100%. Pelanggaran pertama sistem robotik komersial yang sedang digunakan.

Anda juga boleh mencari benang Reddit di mana individu telah membeli robot ini dan menggunakan teknik jailbreaking kepada mereka.

Risiko yang berpotensi adalah jelas-yang membolehkan mesin berkaki empat ini untuk berkeliaran tanpa perlindungan asal boleh membawa kepada akibat yang serius.

Pasukan Kepimpinan Unitree

Sedikit menggali ke latar belakang Unitree Robotics mendedahkan perbezaan yang menarik antara carian Google berasaskan kata kunci dan konvensional.

Pada Wikipedia, pengasas teknologi awal Unitree disenaraikan sebagai Wang Xingxing. Walau bagaimanapun, Chatgpt tidak mengenali mana -mana angka awam dengan nama itu. Sebaliknya ia mencadangkan seseorang yang bernama Donsheng Zhu memainkan peranan penting dalam melancarkan Unitree. Namun, carian Google standard tidak menghasilkan maklumat yang relevan mengenai orang ini, walaupun pelbagai ulama berkongsi nama itu.

Akhirnya, Chatgpt mengenal pasti Ye Wang, yang juga diakui secara terbuka di tempat lain dalam talian.

Ini menunjukkan betapa sukarnya untuk mendedahkan maklumat terperinci mengenai syarikat tersebut. Sebagai pengguna, kita hanya boleh mempunyai pemahaman yang samar-samar tentang bagaimana perusahaan-perusahaan ini dibina, tetapi kita tahu produk mereka kini berada di luar sana, ada yang dilengkapi dengan pemborosan api.

Adakah kita memerlukan undang -undang dan peraturan baru mengenai robotik? Saya percaya demikian, terutamanya apabila teknologi ini menjadi meluas di Amerika Syarikat. Kebanyakan kita tidak pernah menemui robot Unitree atau Boston Dynamics berjalan di jalan seperti haiwan kesayangan. Tetapi apabila mereka tiba, hampir pasti tidak semua akan terkawal.

Atas ialah kandungan terperinci Boston Dynamics dan Unitree berinovasi robot berkaki empat dengan cepat. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!