Yapay Zeka

Yapay Sinir Ağları Hiç Öğrenmeden Zaman Harcadıklarında Daha İyi Öğrenirler

Özet: Yapay zeka eğitimi sırasındaki “çevrimdışı” dönemler, uykunun insan beyninde sağladığı öğrenme faydalarını taklit ederek yapay sinir ağlarında “yıkıcı unutmayı” azalttı.

Kaynak: UCSD

Yaşa bağlı olarak, insanlar 24 saatte 7 ila 13 saat uykuya ihtiyaç duyar. Bu süre zarfında pek çok şey olur: Kalp atış hızı, nefes alma ve metabolizma gelgitleri; hormon seviyeleri ayarlanır; vücut rahatlar. Beyinde çok fazla değil.

Kaliforniya Üniversitesi San Diego Tıp Fakültesi’nde tıp profesörü ve uyku araştırmacısı olan PhD Maxim Bazhenov, “Beyin uyuduğumuzda gün boyunca öğrendiklerimizi tekrarlamakla çok meşgul” dedi. “Uyku, anıların yeniden düzenlenmesine yardımcı olur ve onları en verimli şekilde sunar.”

Daha önce yayınlanan çalışmalarında Bazhenov ve meslektaşları, uykunun rasyonel hafızayı, nesneler, insanlar veya olaylar arasındaki keyfi veya dolaylı ilişkileri hatırlama yeteneğini nasıl oluşturduğunu ve eski hatıraları unutmaya karşı nasıl koruduğunu rapor ettiler.

Yapay sinir ağları, temel bilim ve tıptan finans ve sosyal medyaya kadar çok sayıda teknoloji ve sistemi geliştirmek için insan beyninin mimarisinden yararlanır. Bazı yönlerden, hesaplama hızı gibi insanüstü performansa ulaştılar, ancak önemli bir açıdan başarısız oldular: Yapay sinir ağları sırayla öğrendiğinde, yeni bilgiler önceki bilgilerin üzerine yazılır, bu da feci unutma olarak adlandırılan bir olgudur.

Bazhenov, “Buna karşılık, insan beyni sürekli olarak öğrenir ve yeni verileri mevcut bilgilere dahil eder” dedi ve “ve genellikle en iyi, yeni eğitim, hafızayı güçlendirmek için uyku dönemleriyle birleştirildiğinde öğreniyor.”

dergisinin 18 Kasım 2022 tarihli sayısında yazıyor. PLOS Hesaplamalı Biyoloji, Kıdemli yazar Bazhenov ve meslektaşları, biyolojik modellerin yapay sinir ağlarında yıkıcı unutkanlık tehdidini azaltmaya nasıl yardımcı olabileceğini tartışıyor ve çeşitli araştırma ilgi alanlarındaki faydalarını artırıyor.

Bilim adamları, doğal sinir sistemlerini yapay olarak taklit eden dikenli sinir ağları kullandılar: Bilginin sürekli olarak iletilmesi yerine, belirli zaman noktalarında ayrık olaylar (sivri uçlar) olarak iletilir.

Yükselen ağlar yeni bir görev için eğitildiklerinde, ancak ara sıra uykuyu taklit eden çevrimdışı dönemlerle, feci unutmanın hafifletildiğini buldular. Çalışma yazarları, insan beyni gibi, ağlar için “uyku”, eski eğitim verilerini açıkça kullanmadan eski anıları yeniden oynatmalarına izin verdiğini söyledi.

Anılar, insan beyninde sinaptik ağırlık kalıplarıyla temsil edilir – iki nöron arasındaki bağlantının gücü veya genliği.

Bazhenov, “Yeni bilgiler öğrendiğimizde, nöronlar belirli bir sırayla ateşlenir ve bu, aralarındaki sinapsları artırır. Uyku sırasında, uyanıkken öğrenilen ani hareketler kendiliğinden tekrarlanır. Buna yeniden etkinleştirme veya yeniden oynatma denir.

Bu, bilgisayar tarafından üretilen dört beyni gösterir
Yapay sinir ağları, temel bilim ve tıptan finans ve sosyal medyaya kadar çok sayıda teknoloji ve sistemi geliştirmek için insan beyninin mimarisinden yararlanır. Resim kamu malıdır

“Sinaptik plastisite, değiştirilme veya kalıplanma kapasitesi, uyku sırasında hala yerindedir ve hafızayı temsil eden sinaptik ağırlık kalıplarını daha da geliştirebilir, unutmayı önlemeye veya bilginin eskiden yeni görevlere aktarılmasını sağlamaya yardımcı olabilir.”

Bazhenov ve meslektaşları bu yaklaşımı yapay sinir ağlarına uyguladıkları zaman, bunun ağların yıkıcı unutkanlıklardan kaçınmasına yardımcı olduğunu gördüler.

“Bu, bu ağların insanlar veya hayvanlar gibi sürekli olarak öğrenebileceği anlamına geliyordu. İnsan beyninin uyku sırasında bilgiyi nasıl işlediğini anlamak, insan deneklerde hafızayı artırmaya yardımcı olabilir. Uyku ritimlerini artırmak daha iyi belleğe yol açabilir.

“Diğer projelerde, uyku ritmini iyileştiren ve öğrenmeyi iyileştiren işitsel tonlar gibi uyarıları uyku sırasında uygulamaya yönelik en uygun stratejileri geliştirmek için bilgisayar modellerini kullanıyoruz. Bu, hafızanın optimal olmadığı durumlarda, örneğin yaşlanma sırasında hafızanın azaldığı veya Alzheimer hastalığı gibi bazı durumlarda özellikle önemli olabilir.”

Ortak yazarlar şunları içerir: her ikisi de UC San Diego’dan Ryan Golden ve Jean Erik Delanois; ve Çek Bilimler Akademisi Bilgisayar Bilimleri Enstitüsü’nden Pavel Sanda.

Bu yapay zeka ve öğrenme araştırması haberleri hakkında

Ayrıca bakınız

Bu küçük bir kız ve bir köpeği gösteriyor

Soyut

Uyku, ortak bir sinaptik ağırlık temsili oluşturarak sinir ağlarını ani olarak yükselterek felaketle sonuçlanan unutmayı önler.

Yapay sinir ağları, sırayla eğitildiklerinde önceden öğrenilen görevlerin üzerine yazar; bu, feci unutma olarak bilinen bir olgudur. Buna karşılık, beyin sürekli olarak öğrenir ve tipik olarak en iyi, yeni eğitim hafızayı güçlendirmek için uyku dönemleriyle birleştirildiğinde öğrenir.

Burada yıkıcı unutkanlığın ardındaki mekanizmaları ve bunu önlemede uykunun rolünü incelemek için dikenli ağ kullandık.

Ağ, karmaşık bir yiyecek arama görevini öğrenmek için eğitilebilir, ancak farklı görevler üzerinde sıralı olarak eğitildiğinde feci bir unutkanlık sergiledi. Sinaptik ağırlık uzayında, yeni görev eğitimi, sinaptik ağırlık konfigürasyonunu unutmaya yol açan eski görevi temsil eden manifolddan uzaklaştırdı.

Yeni görev eğitimini çevrim dışı yeniden etkinleştirme dönemleriyle birleştirme, biyolojik uykuyu taklit etme, ağ sinaptik ağırlık durumunu daha önce öğrenilen manifoldla sınırlandırarak, ağırlık konfigürasyonunun eski ve yeni görevleri temsil eden manifoldların kesişimine doğru yakınsamasına izin vererek yıkıcı unutmayı hafifletme .

Çalışma, unutmayı önlemek ve öğrenmeyi optimize etmek için beynin uyku sırasında uyguladığı olası bir sinaptik ağırlık dinamikleri stratejisini ortaya koymaktadır.

Kaynak ve İleri Okuma: https://neurosciencenews.com/ai-ann-rest-learning-21899/

İlgili Makaleler

Başa dön tuşu