Otonom araçların, önemli bir eğitimden geçtikten sonra sürücü kontrollü araçlara göre kazalara çok daha az eğilimli olması beklenmekteyken, bu araçların daha ciddi bir tehdit oluşturabilmesi söz konusu. Uzmanlar, bu araçların rutin olarak ihtiyaç duyduğu kablosuz donanım ve yazılım güncellemeleri nedeniyle, onları yolda kazalara yol açmak için kullanabilecek bilgisayar korsanları tarafından kolayca saldırıya uğrama potansiyeline sahip olduklarını ve bilgisayar korsanlarının bu araçları trafikteki silahlara dönüştürebileceklerine inanıyorlar.
Otonom araçlar, geleneksel arabalarda insanlar tarafından alınacak kararları vermek için makine öğrenimi tekniklerini kullanarak verileri toplamak, analiz etmek ve aktarmak için yapay zeka sistemlerini kullanıyor. Bu sistemler, tüm bilgi teknolojileri sistemleri gibi, aracın düzgün çalışmasını tehlikeye atabilecek saldırılara karşı savunmasızdır.
ENISA ve JRC tarafından hazırlanan bir rapor, yapay zekanın otonom araçlarda kullanımına bağlı siber güvenlik risklerine ışık tutuyor ve bunları azaltmak için öneriler sunuyor. Güvensiz otonom bir araç bir AB Üyesi devletin sınırını geçtiğinde, güvenlik açıkları da geçer. IEEE Innovation at work‘te yayımlanan bir yazıya göre Avrupa’da Birleşmiş Milletler Ekonomi Komisyonu, denetlediği 54 ülkede otonom araçlar için siber güvenlik düzenlemeleri üzerinde çalışıyor. UNECE kapsamında, düzenlemeler Siber Güvenlik Yönetim Sistemleri için Uygunluk Sertifikasını zorunlu kılacaktır.
Otonom araçların yapay zeka sistemleri, trafik işaretlerini ve yol işaretlerini tanımak, araçları tespit etmek, hızlarını tahmin etmek, ilerideki yolu planlamak için durmaksızın çalışıyor. Ani arızalar gibi kasıtsız tehditlerin yanı sıra, bu sistemler, AI sistemine müdahale etmek ve güvenlik açısından kritik işlevleri bozmak için özel bir amacı olan kasıtlı saldırılara karşı savunmasızdır. Navigasyonu yanlış yönlendirmek için yola boya eklemek veya tanınmasını önlemek için bir dur işaretine yapıştırma eklemek bu tür saldırılara örnektir. Bu değişiklikler, AI sisteminin nesneleri yanlış sınıflandırmasına ve ardından otonom aracın tehlikeli olabilecek şekilde davranmasına neden olabilir.
Otonom araçlarda yapay zeka güvenliğini iyileştirmek için rapor birkaç öneri içeriyor; bunlardan biri, yapay zeka bileşenlerinin güvenlik değerlendirmelerinin yaşam döngüleri boyunca düzenli olarak gerçekleştirilmesidir. Yapay zeka modellerinin ve verilerinin bu sistematik doğrulaması, aracın beklenmedik durumlar veya kötü niyetli saldırılarla karşılaşıldığında her zaman doğru davranmasını sağlamak için çok önemlidir.
Otomotiv endüstrisi, siber güvenliğin en başından itibaren dijital tasarımın merkezi unsuru haline geldiği yapay zeka işlevlerinin geliştirilmesi ve dağıtımı için tasarım yoluyla bir güvenlik yaklaşımını benimsemelidir. Son olarak, otomotiv sektörünün güvenlik sorunlarını ele almak için olaylara müdahale yeteneklerini güçlendirmesi önemlidir.
