Derin ağ modelleri, karmaşık tanıma görevlerini çözmede potansiyel olarak tehlikeli “kısayolları” nasıl kullanır?

Cell Press dergisinde yayınlandı iScienceDerin öğrenme modelleri, insan şekli algısının yapısal doğasını yakalayamıyor, İnsan ve Bilgisayarla Görme alanında York Araştırma Kürsüsü’nün sahibi olan ve York’un Yapay Zeka ve Toplum Merkezi’nin Eş-Direktörü olan Elder ve Yardımcı Psikoloji Profesörü Nicholas tarafından ortaklaşa yürütülen bir çalışmadır. Baker, Chicago’daki Loyola Koleji’nde, York’ta eski bir VISTA doktora sonrası araştırmacısı.

Çalışma, insan beyninin ve DCNN’lerin bütünsel, yapılandırılmış nesne özelliklerini nasıl işlediğini keşfetmek için “Frankensteins” adı verilen yeni görsel uyaranları kullandı.

Elder, “Frankenstein’lar basitçe parçalara ayrılmış ve yanlış yoldan tekrar bir araya getirilmiş nesnelerdir” diyor. “Sonuç olarak, tüm doğru yerel özelliklere sahipler, ancak yanlış yerlerde.”

Müfettişler, insan görsel sisteminin Frankenstein’lar tarafından karıştırılmasına rağmen, DCNN’lerin öyle olmadığını buldular – bu, nesnenin yapılandırılmasına karşı duyarsızlığı ortaya koyuyor.

Elder, “Sonuçlarımız, derin AI modellerinin neden belirli koşullar altında başarısız olduğunu açıklıyor ve beyindeki görsel işlemeyi anlamak için nesne tanımanın ötesindeki görevleri dikkate alma ihtiyacına işaret ediyor” diyor. “Bu derin modeller, karmaşık tanıma görevlerini çözerken ‘kısayollar’ alma eğilimindedir. Bu kısayollar birçok durumda işe yarayabilirken, şu anda endüstrimiz ve devlet ortaklarımızla üzerinde çalıştığımız bazı gerçek dünyadaki AI uygulamalarında tehlikeli olabilir. ” Yaşlı işaret ediyor.

Bu tür uygulamalardan biri trafik video güvenlik sistemleridir: “Yoğun bir trafik sahnesindeki nesneler – araçlar, bisikletler ve yayalar – birbirlerini engeller ve bir sürücünün gözüne bağlantısız parçalar yığını olarak ulaşır,” diye açıklıyor Elder. “Beynin, nesnelerin doğru kategorilerini ve konumlarını belirlemek için bu parçaları doğru bir şekilde gruplandırması gerekiyor. Trafik güvenliği izleme için yalnızca parçaları tek tek algılayabilen bir AI sistemi bu görevde başarısız olacak ve savunmasız yol kullanıcıları için potansiyel olarak yanlış anlama riskleri. “

Araştırmacılara göre, ağları daha beyne benzer hale getirmeyi amaçlayan eğitim ve mimaride yapılan değişiklikler, yapısal işlemeye yol açmadı ve ağların hiçbiri, deneme-deneme insan nesnesi yargılarını doğru bir şekilde tahmin edemedi. Elder, “İnsanların yapılandırma duyarlılığına uyması için ağların, kategori tanımanın ötesinde daha geniş kapsamlı nesne görevlerini çözmek için eğitilmesi gerektiğini düşünüyoruz” diye belirtiyor.