Her birimiz günlük yaşamımızda yapay zeka ( AI ) ile bir şekilde karşılaşmışızdır. Özelleştirilmiş Netflix önerilerinden kişiselleştirilmiş Spotify çalma listelerine, alışveriş listelerini ve cihazlarını yöneten Alexa gibi sesli yardımcılara kadar. Tüm bu örnekler, AI özellikli entegre sistemlerin hayatımıza nasıl girdiğini gösterir.
İş dünyasında, çoğu kuruluş AI / ML yeteneklerine büyük yatırım yapıyor. İster kritik iş süreçlerinin otomasyonu, ister çok kanallı bir tedarik zinciri oluşturmak ya da müşteriye bakan ekipleri chatbotlarla güçlendirmek olsun, AI tabanlı sistemler, manuel iş ve maliyetleri önemli ölçüde azalttı ve daha yüksek kâr sağladı.
Bu başarılara rağmen, MIT yazarı Will Douglas’ın yakın tarihli bir makalesi, koronavirüs salgını sırasında yapay zeka tabanlı sistemlerde her şeyin iyi olmadığını belirtti. Hayır, virüs AI’yı etkilemez, ancak virüs AI ve ML sistemlerinin düzgün çalışmasını sağlayan insanları etkiler.
Envanterinizi, müşteri desteğinizi ve bu tür diğer işlevleri yerine getirmek için makine öğrenimi algoritmaları kullanıyorsanız, sistemleriniz iyi bir şekilde eğitilmiş ve insan müdahalesi olmadan verimli bir şekilde çalışacaktır. Ancak, bu ifade sadece kısmen doğrudur ve bunun nedeni, makine öğrenme algoritmalarınızın salgın sırasında ortaya çıkan ‘yeni normal’ konusunda eğitilmemesidir.
Hepimizin bildiği gibi salgın, arz – talep modelleri ve genel olarak alıcı davranışı da dahil olmak üzere dünyayı tamamen değiştirdi. Örneğin, Amazon’da dünya genelinde aranan en iyi öğelerin tuvalet kağıdı, yüz maskesi ve el dezenfektanı gibi COVID-19 ile ilgili ürünlerle dolması sadece birkaç gün sürdü. Normal davranışlar konusunda eğitilmiş makine öğrenimi modelleri aniden büyük sapmalarla karşı karşıya olduğu ve birçoğu olması gerektiği gibi çalışmadığı için bu tür sert değişiklikler yapay zekayı da etkiledi.
Yapay Zekanın Başarısız Örnekleri
IBM’in kanseri ortadan kaldırması beklenen “Watson for Oncology” nin tamamen saçma bir ürün olduğu ortaya çıktı. Ürünün, hastaların durumunu potansiyel olarak kötüleştirebilecek yanlış tıbbi tavsiye verdiği bulunmuştur. Bir kaynağa göre, sorun Watson’un gerçek hasta verileri yerine az sayıda “sentetik kanser vakası” konusunda eğitilmiş olmasıydı. Öneriler bile, herhangi bir yazılı kılavuzdan veya kanıtdan daha az sayıda kanser uzmanının uzmanlığına dayanıyordu.
Şu an ki salgına gelince, dezenfektanlar satan bir şirketin varsayımsal örneğini alabiliriz. Perakendecinin otomatik bir envanter yönetim sistemine bağlı olduğu düşünüldüğünde, şirketin güvendiği tahminlerin (kullanıcı davranışına dayalı tahmin algoritmaları tarafından oluşturulan) artık koronavirüsün neden olduğu gerçek talep hamlesiyle eşleşmeme olasılığı vardır. Bu ciddi talep ve arz sorunları ortaya çıkarır. Aslında, tedarik zincirleri dünyayı etkilediğinde ve çeşitli şirketler için yeni talep modelleri ortaya çıktığında, satış ve bütçe tahmini için kullanılan AI özellikli modelleri yeniden düşünmenin zamanı geldi. Mevcut ekonomik ve sosyal kargaşa sırasında ‘yeni normal’ ortaya çıktıkça, bu ML modellerine açılan veriler ve varsayımlar artık güncel değildir ve ciddi hatalara yol açabilir.
Yapay Zeka Başarısı için İnsan Müdahalesi Çok Önemli
Makine öğrenim sistemleri yalnızca eğitildikleri veriler kadar iyidir. Birçok uzman yapay zekanın sadece en basit durum senaryoları üzerinde değil, aynı zamanda 1930’ların Büyük Bunalımı, 2007-08 mali krizi ve mevcut salgın gibi insanlık tarihinin havza olaylarında da eğitilmesi gerektiğine inanıyor.
İnsan gözetimi aynı zamanda AI’nın eksikliklerini büyük ölçüde aşmaya da yardımcı olabilir. Sosyal medya salgın ile ilgili haberleri tüketmek ve yaymak için kullanışlıdır. Bununla birlikte, insan gözetimi sahte haberlerin yayılmasının üstesinden gelmeye yardımcı olabilir, çünkü kaynaklara tıklamak, hikayeyi doğrulamak ve yayılmayı önlemek için sahte haberleri sisteme rapor etmek okuyuculara bağlıdır.
İnsanlar yapay zekaları insan gözetimi olmadan bağımsız olarak işlev görecek şekilde bırakamazlar çünkü makineler sonunda makinelerdir ve ahlaki veya sosyal bir pusulaya sahip değildir. En iyi ihtimalle, AI eğitildiği veriler kadar iyidir, bu da yaratıcılarının önyargılarını, düşünce sürecini veya ahlaki pusulasını yansıtabilir. Yapay zekayı eğitmek için gerekli olan farklı veri kümeleri üzerinde ve hassas bir denge sağlamak yerine insan kontrolleri gereklidir.
