Google‘ın yapay zeka bölümü DeepMind, robotlar için bir tür “anayasa” tasarlıyor. Bu tasarım, robotların çevrelerini daha iyi anlamalarını ve hedeflere daha etkili bir şekilde ulaşabilmelerini sağlamak amacıyla geliştirilen AutoRT adlı yapay zeka sistemini içeriyor.
AutoRT, dil modelleri (LLM veya VLM) ve robot kontrol modelleri (RT-1 veya RT-2) gibi büyük temel modelleri birleştirerek, robotların çeşitli görevleri yerine getirmelerini sağlayan bir sistem. Bu sistem, farklı ortamlarda çalışan birden fazla robotu aynı anda yönlendirebilme yeteneği ile dikkat çekiyor.
Her bir robot için görsel model ve dil modeli kullanarak çevrelerini anlamak, görevleri belirlemek ve gerçekleştirmek için kararlar almak üzere tasarlandı.
Google, AutoRT’yi veri toplama sistemi olarak değerlendirirken, aynı zamanda gerçek dünyada kullanıma yönelik otonom robotların da bir gösterimini sunuyor. Bu nedenle, “Robot Anayasası” olarak adlandırılan talimatlar, robotların görev seçerken takip etmeleri gereken güvenlik korkuluklarını içeriyor.
Isaac Asimov’un Üç Robot Yasası’ndan esinlendi
Bu kurallar, Isaac Asimov‘un Üç Robot Yasası‘ndan ilham alarak, bir robotun bir insana zarar vermemesi ilkesine dayanıyor. Diğer kurallar ise robotların belirli görevleri yerine getirirken insan, hayvan, keskin nesneler veya elektrikli cihazlara zarar vermemesi gerektiğini vurguluyor.
Sistem daha sonra bu kuralları davranışlarını yönlendirmek ve tehlikeli faaliyetlerden kaçınmak için kullanabiliyor; örneğin ChatGPT‘ye yasadışı faaliyetlerde insanlara yardım etmemesinin söylenebileceği gibi.
Fakat Google, bu teknolojilerle bile bu geniş modellerin tamamen emniyetli olduğuna güvenilemeyeceğini de belirtiyor. Bu bağlamda Google, robotların çok fazla güç uygulamasını engelleyen bir sistem ve fiziksel olarak onları kapatabilecek bir insan gözetmenin de aralarında bulunduğu, klasik robotikten ödünç aldığı daha geleneksel güvenlik sistemlerini de dahil etmek zorunda kaldı.
