Otonom Araçların Güvenliği Nasıl Garanti Edilir?

Orijinal versiyon ile ilgili bu hikaye ortaya çıkan Quanta Dergisi.

Sürücüsüz arabalar ve uçaklar artık geleceğin eşyası değil. Yalnızca San Francisco şehrinde, iki taksi şirketi Ağustos 2023’e kadar kolektif olarak 8 milyon mil otonom sürüş kaydetti. Ayrıca orduya ait olanları saymazsak 850.000’den fazla otonom hava aracı veya drone ABD’de kayıtlı.

Ancak güvenlikle ilgili meşru endişeler var. Örneğin Mayıs 2022’de sona eren 10 aylık dönemde Ulusal Karayolu Trafik Güvenliği İdaresi rapor edildi Bir çeşit otonom kontrol kullanan otomobillerin karıştığı yaklaşık 400 kaza. Bu kazalar sonucunda 6 kişi hayatını kaybetti, 5 kişi ise ağır yaralandı.

Bazen “tükenerek test etme” olarak da adlandırılan bu sorunu çözmenin olağan yolu, bu sistemlerin güvenli olduklarından emin olana kadar test etmeyi içerir. Ancak bu sürecin tüm potansiyel kusurları ortaya çıkaracağından asla emin olamazsınız. “İnsanlar kaynaklarını ve sabırlarını tüketene kadar testler yapıyorlar” dedi Sayan MitraUrbana-Champaign’deki Illinois Üniversitesi’nden bilgisayar bilimcisi. Ancak tek başına test yapmak garanti veremez.

Mitra ve meslektaşları bunu yapabilir. Ekibi bunu başardı kanıtlamak the emniyet otomobiller için şerit takip yetenekleri ve iniş sistemleri otonom uçaklar için. Stratejileri artık drone’ların uçak gemilerine indirilmesine yardımcı olmak için kullanılıyor ve Boeing, bunu bu yıl deneysel bir uçakta test etmeyi planlıyor. “Uçtan uca güvenlik garantileri sağlama yöntemleri çok önemli” dedi Corina PasareanuCarnegie Mellon Üniversitesi ve NASA’nın Ames Araştırma Merkezi’nde araştırma bilimcisi olan Dr.

Çalışmaları, otonom araçları bilgilendirmek için kullanılan makine öğrenimi algoritmalarının sonuçlarını garanti etmeyi içeriyor. Yüksek düzeyde birçok otonom aracın iki bileşeni vardır: algısal sistem ve kontrol sistemi. Algılama sistemi size örneğin arabanızın şeridin merkezinden ne kadar uzakta olduğunu veya bir uçağın hangi yöne doğru ilerlediğini ve ufka göre açısının ne olduğunu söyler. Sistem, kameralardan ve diğer duyusal araçlardan gelen ham verileri, aracın dışındaki ortamı yeniden yaratan sinir ağlarına dayalı makine öğrenimi algoritmalarına besleyerek çalışıyor.

Bu değerlendirmeler daha sonra ne yapılacağına karar veren ayrı bir sisteme, kontrol modülüne gönderilir. Örneğin yaklaşmakta olan bir engel varsa, frene mi basılacağına yoksa onun etrafından mı dönüleceğine karar verir. Buna göre Luca CarloneMassachusetts Teknoloji Enstitüsü’nde doçent olan Dr. , kontrol modülü köklü teknolojiye dayanırken “algı sonuçlarına göre kararlar veriyor ve bu sonuçların doğru olduğuna dair hiçbir garanti yok.”

Mitra ekibi, güvenlik garantisi sağlamak için aracın algılama sisteminin güvenilirliğinin sağlanması üzerinde çalıştı. İlk önce, dış dünyanın mükemmel bir sunumu mevcut olduğunda güvenliği garanti etmenin mümkün olduğunu varsaydılar. Daha sonra algılama sisteminin aracın çevresini yeniden oluştururken ne kadar hataya yol açtığını belirlediler.

Bu stratejinin anahtarı, hata bandı veya Mitra’nın ifadesiyle “bilinen bilinmeyenler” olarak bilinen ilgili belirsizlikleri ölçmektir. Bu hesaplama, kendisinin ve ekibinin algı sözleşmesi adını verdiği şeyden geliyor. Yazılım mühendisliğinde sözleşme, bir bilgisayar programına verilen belirli bir girdi için çıktının belirli bir aralıkta kalacağına dair bir taahhüttür. Bu aralığı bulmak kolay değil. Arabanın sensörleri ne kadar doğru? Bir drone ne kadar sis, yağmur veya güneş ışığına dayanabilir? Ancak aracı belirli bir belirsizlik aralığında tutabilirseniz ve o aralığın tespiti yeterince doğruysa, Mitra’nın ekibi aracın güvenliğini sağlayabileceğinizi kanıtladı.