Notes

***************Tanım
İşlemci - çok genel bir amaç, her şeyi yapabilir, ancak hiçbir konuda uzmanlaşmaz.

GPU - başlangıçta grafik oluşturmak için tasarlandı, ancak tasarım gereği, ML / AI iş yüklerinde de derleyici desteği ile kullanılabilecek çok sayıda küçük paralel işlem birimi vardı. Bu nedenle, bir süre zarfında her GPU şirketi GPGPU (Genel Amaçlı GPU) terimini kullanan, CPU gibi jenerik hale getirmeye çalışıyor.

NPU - ML / AI iş yüklerini işlemek için yeni fantezi terimi. Çok spesifik, genel amaçlı işler için kullanışlı değil. Elbette genel görevleri yapabilir, ancak fazlaca olabilir, ayrıca derleyici desteğine de ihtiyaç duyar.
Bir sinir işleme birimi (NPU), makine öğrenme algoritmalarının hızlanması konusunda uzmanlaşmış bir mikroişlemcidir. Aynı zamanda, sinir işlemcisi olarak da bilinir. GPU'lardan birkaç kat daha hızlı (10K).

CPU genel amaçlı bir işlemciyken, GPU'lar grafik işlemeyi hızlandırmak için tasarlanmıştır.

Genelde bilgi işlem için de kullanılabilir, ayrıca diğer görevlerde genellikle düşük performans için inşa edilmeyen doğru derleyici desteğinin mevcut olması koşuluyla kullanılabilir.

NPU’nun yaygın gerçek yaşam örneklerinden bazıları şunlardır:

Google'dan TPU
Intel'den NNP, Sayısız ve EyeQ
NVDLA Nvidia tarafından
Amazon tarafından AWS Inferentia

Örnekler
Yapay İşlem Ünitelerinin (NPU) gerçek hayat uygulamaları:

Google'dan TPU
NNP, Sayısız, EyeQ Intel tarafından
NVDLA Nvidia tarafından
Amazon tarafından AWS Inferentia
Alibaba tarafından Ali-NPU
Kunlun Baidu tarafından
Sopmain tarafından Bitmain
Cambricon tarafından MLU
Graphcore tarafından IPU
Huawei tarafından yükseliş
Apple tarafından sinir motoru
Sinir İşleme Ünitesi (NPU) Samsung


**************Sinirsel İşlemci
Bir sinir işlemcisi veya bir sinir işlem birimi (NPU), tipik olarak yapay sinir ağları (YSA) veya rasgele ormanlar (RF'ler gibi öngörücü modeller üzerinde çalışarak), makine öğrenme algoritmalarını yürütmek için gerekli tüm gerekli kontrol ve aritmetik mantığı uygulayan özel bir devredir ).

NPU'lar bazen tensör işleme ünitesi (TPU), sinir ağı işlemcisi (NNP) ve istihbarat işleme ünitesi (IPU), görsel işlem ünitesi (VPU) ve grafik işleme ünitesi (GPU) gibi benzer isimler kullanırlar.



Motivasyon
Konvolüsyonel sinir ağları gibi derin sinir ağlarının yürütülmesi, genellikle milyarlarca ve trilyonlarca yinelemede çok büyük miktarda çok birikimli işlem yapılması anlamına gelir. Çok sayıda yineleme, verilen her giriş için (örneğin, görüntü), tek bir evrişimin her kanal üzerinde ve sonra her piksel üzerinde yinelemeden ve çok sayıda MAC işlemi gerçekleştirmesinden ibaret olmasıdır. Ve bu tür birçok konvolüsyon tek bir modelde bulunur ve modelin her yeni girişte (örneğin, her kamera karesi yakalamada) yürütülmesi gerekir.

Yüksek düzeyde serileştirilmiş komut akışlarını işlemek için harika olan geleneksel merkezi işlem ünitelerinin aksine, Makine öğrenimi iş yükleri, bir grafik işlem ünitesine çok benzer şekilde paralel hale gelme eğilimindedir. Ayrıca, bir GPU'dan farklı olarak, NPU'lar çok daha basit bir mantıktan yararlanabilir çünkü iş yükleri derin sinir ağlarının hesaplamalı modellerinde yüksek düzenlilik sergileme eğilimindedir. Bu nedenlerden dolayı, birçok özel tasarlanmış özel sinir işlemcisi geliştirilmiştir.
Bir sinir işleme birimi (NPU), makine öğrenme algoritmalarını uygulamak için gerekli tüm kontrol ve aritmetik mantık bileşenlerinden oluşan, iyi bölümlenmiş bir devredir. NPU'lar, görüntü sınıflandırma, makine çevirisi, nesne algılama ve diğer çeşitli öngörücü modeller gibi yaygın makine öğrenme görevlerinin performansını hızlandırmak için tasarlanmıştır. NPU'lar büyük bir SoC'nin parçası olabilir, tek bir çip üzerinde birden fazla NPU başlatılabilir veya özel bir sinir ağı hızlandırıcısının parçası olabilir.



****************sınıflandırma
Genel olarak konuşursak, NPU'lar eğitim veya çıkarım olarak sınıflandırılır. Her iki işlemi de yapabilen yongalar için, iki faz hala genellikle bağımsız olarak gerçekleştirilir.

Eğitim - Eğitimi hızlandırmak için tasarlanan NPU'lar yeni modellerin iyileştirilmesini hızlandırmak için tasarlanmıştır. Bu, daha doğru bir model sağlamak için mevcut veri setini girmeyi (genellikle etiketli) ve veri setini yinelemeyi, model ağırlıklarını ve önyargılarını ayarlamayı içeren oldukça yoğun bir işlemdir. Yanlış bir tahminin düzeltilmesi, ağ katmanları arasında geri ilerlemeyi ve bir düzeltmeyi tahmin etmeyi içerir. İşlem istenen doğrulukta doğru bir cevap elde edilinceye kadar tekrar tekrar tahmin etmeyi içerir.
Çıkarım - Çıkarımı hızlandırmak için tasarlanan NPU'lar tam modellerde çalışır. Çıkarım hızlandırıcıları, yeni bir veri parçası (örneğin, yeni bir kamera çekimi) girmek, önceden eğitilmiş modelde işlemek ve bir sonuç üretmek üzere tasarlanmıştır.



Huawei, Kirin 970 adını verdiği işlemci ile dünyada ilk kez yapay zekaya sahip bir işlemci üretti. Bu mobil işlemci, sahip olduğu NPU (Neural-network Processing Unit) ile yapay zeka işlemleri çok daha hızlı ve güç tüketimi konusunda tasarruflu gerçekleşecek.


NPU NEDİR ?
NPU birimi, bu zamana kadar kullanılan mobil işlemcilere kıyasla 25 kat daha hızlı işlem gücü sunan ve bu avantaja rağmen güç tüketimi konusunda da 50 kata varan güç tasarrufu sağlayan bir teknolojidir.

Bu performans karşılaştırması, NPU’ya sahip bir işlemcinin CPU+GPU ve CPU kombinasyonlarına kıyasla ne kadar yüksek performans sunabileceğini açık bir şekilde gösteriyor.

Yapay zekanın asıl vurucu olacağı nokta ise, akıllı telefonlardaki sanal asistanlar ile kuracağı iletişim. Siri, Bixby, Google Assistant gibi yardımcılara ek olarak, Google TensorFlow, Facebook Caffe2, ve Android NN gibi yapay zeka platformlarıyla uyumlu olması da bu işlemciyi avantajlı konuma geçirecek.


Bir telefonda NPU neye yaracak diye düşünenler için ise gündelik olarak yaptığınız şeyleri takip edip öğrenen bir telefon örneğini verebiliriz. Bu telefon NPU birimi ve gerekli yazılım desteği sayesinde, tüm alışkanlıklarınızı öğrenebilecek. Uyku saatiniz, uyanma saatiniz, ofise veya eve dönüş saatlerinizi öğrenebilen ve buna göre programlamalarınızı yapan bir zeka… Gerçekten etkileyici olabilir.

Qualcomm ise NPU birimini insan beynine benzerliği tanımlıyor. Geleneksel işlemciler bir işlemi yapmak için onu tetikleyecek bir tanım bekler ancak NPU birimleri tıpkı bir insan beyni gibi çalışır. Bir işlemi yapmak için öncesinde başka bir işlemin gerçekleşme zorunluluğunu da ortadan kaldırır.

Akıllı telefonların “zeki” telefonlara evrilmesi konusundaki ilk adımlar atıldı. Bakalım yakın gelecekte bizleri ne kadar zeki telefonlar bekliyor? Telefonların yapay zekaya sahip olması size ne ifade ediyor? Aşağıda yorum olarak bizimle paylaşabilirsiniz.



***************************** Kirin İşlemci Nedir?
Huawei markasının işlemci geliştirme birimi olan HiSilicon tarafından, Kirin 910 model numarasıyla çıkarılıp Huawei Ascend P7 modele güç veren işlemci türüdür. 2017 yılında duyurulan Kirin 970 model işlemcisi ise dünyada ilk Nöral Bilgi İşlem Ünitesi destekli Yapay Zeka'ya sahip mobil işlemcisidir.

************************************İşlemci Tanımı
Bilgisayarin çalismasini düzenleyen ve programlardaki komutlari tek tek isleyen birimdir. Ana kart üzerinde bulunur. Merkezi Islem Birimi, Aritmetik ve Mantik Birimi ile Kontrol Ünitesinden olusur.



Bir ağ işlemcisi (NPU), bir ağ uygulama alanı içinde bir ağ mimarisi bileşeni olarak kullanılan programlanabilir bir yazılım cihazı olan entegre bir devredir.Bir ağdaki bir ağ işlemcisi, bir bilgisayardaki veya benzer bir cihazdaki merkezi işlem birimine benzer.Telekomünikasyonda analog sinyallerin paket veri formuna değiştirilmesi, veri paketlerini işleyen entegre ağ işlemcileri devrelerine yol açmıştır.


****************Techopedia Ağ İşlemcisini (NPU) açıklıyor
Günümüz ağ işlemcileri, basit tasarımlardan programlanabilir yazılımla karmaşık IC'lere ve veri paketi üzerinde çeşitli işlem ve manipülasyon işlevlerine sahiptir. Ağ işlemcileri; yönlendiriciler, ağ anahtarları, paket denetimi, oturum denetleyicileri, güvenlik duvarı, verici aygıtları, hata algılama ve önleme aygıtları ve ağ kontrol yazılımı imalatında kullanılır. Bugünün web ağı her zamankinden daha güçlü bir şekilde büyümeye devam ederken, ağ işlemcileri, aşırı trafik ve hızlı trafik artışına sahip ağları yönetmede önemli bir rol oynamaktadır. Ağ işlemcileri büyük bir ağda paket denetimi, şifreleme, izleme, trafik yönetimi ve kuyruk yönetimi konularında kilit bir rol oynar.



Sinir Ağlarının (Neural Networks) Temelleri
Şimdi üzerine konuşacağımız konu yani derin öğrenme ve sinir ağları konusu oldukça ilgili çekici olacaktır. Bu ilgi çekiciliğin nedenlerinden biri de beynimizde nöral işlemlerden yola çıkarak kendi aklımızı anlama ümididir. Bir diğer neden ise son yıllarda makine öğreniminde ulaşılan seviye ile birlikte kitlesel veri kümeleri ve derin öğrenme teknikleri birleştirilerek elde edilen sonuçlardır.




**********************Nöral Ağlar Nelerdir?
Nöral ağları daha iyi anlamak için bütününden ziyade onu oluşturan birimleri araştırarak başlayacağız bu konuya. Öncelikli şunu kavramamız önemli nöral ağlar dediğimizde hem kendi sinir sistemimizdeki yapıyı hem de makine öğrenmesinin bir alanını kast ediyoruz.
Nöronların en önemli özelliği birlikte çalışabilme olarak ifade edilebilir bu da özellikle yapay sinir ağlarına ilham vermiştir. Yani komşu nöronlarından izole edilen tek bir nöron çok fazla etkili değildir ve sadece çok sınırlı davranışlar sergiler. Bununla birlikte bu nöronlar birbirlerine bağlandığında, uyumlu eylemlerinden kaynaklanan kompleks sistem aşırı derecede karmaşık hale gelebilir. Ve bu sistemlerde sistemin davranışı, nöronların birbirine bağlandığı yollarla belirlenir. Her bir nöron, gelen sinyallere, zaman içinde adapte olabilen belirli bir şekilde tepki verir. Bu uyarlamanın, hafıza ve öğrenme gibi işlevlerin anahtarı olduğu bilinmektedir.
Anahtar terminoloji

**************************Derin öğrenme
Derin öğrenme basit işleme birimlerinin birkaç “katmanının” bir ağa bağlandığı bazı makine öğrenmesi tekniklerini ifade eden bir kavramdır, bu sistemde girdiler sırayla her bir katmanın içinden geçirilir. Bu mimari, gözlerden gelen ve retina tarafından yakalanan beyindeki görsel bilginin işlenmesinden ilham almıştır. Bu derinlik yapısı, ağın gerçekçi olmayan büyük miktarlarda veriye ihtiyaç duymadan daha karmaşık yapıları öğrenmesini ve işlemler yürütmesini sağlar.
Nöronlar, hücre gövdeleri ve sinyalleri
Biyolojik ve yapay bir sinir ağı, birbirine sinyaller alan ve ileten çok sayıda basit birimden yani nörondan oluşur. Nöronlar, nöronları birbirine bağlayan bir hücre gövdesi ve dallardan oluşan çok basit bilgi işlemcileridir. Çoğu zaman, hiçbir şey yapmazlar, ancak oturup dallardan gelen sinyalleri izlerler.

*********************Dendritler, aksonlar ve sinapslar
Biyolojik dilde bir sinir hücresi yapısında çekirdeği ve çekirdekçiği barındıran esas hücre yapısına soma denir. Dendritler ise Soma içerisinden çıkan çok sayıda dallanmalardır. Yapı olarak bir ağacın dallarını andırır. Dentridlerin görevi diğer nöronlardan gelen uyarıları alıp, nöron gövdesine iletmektir. Akson gövdeden çıkan ve dallanama göstermeyen sitoplazmik uzantı kısmıdır. Her nöronda bir tane bulunur. Gövdeden çıkan akson, sinir hücresinden gelen işaretleri çevreye taşımakla görevli olup, böylece sinir hücresini diğer sinir hücreleri veya bir kas hücresi veya bir salgı bezi gibi iş yapan (effektör) hücrelerle bağlar. Mesaj iletiminde önemli rolü vardır. Nöronlar arasındaki bağlantı noktaları; Sinapslar. Uyaranların bir nörondan başka bir nörona geçişi sinaps adı verilen yapılar sayesinde gerçekleşir. Sinaps boşluğundan uyarıların (impuls) iletimi nörotransmitterler (aracı maddeler) veya mediatörler denilen maddeler sayesinde gerçekleşir. Nörotransmitterler iki sinir hücresi arasındaki bağlantıyı sağlayan kimyasal maddelerdir.
Neden Yapay Sinir Ağlarını Geliştirmeliyiz?


Beynin yapay modellerini oluşturmanın amacı nörobilim, beynin ve genel olarak sinir sisteminin incelenmesi olabilir. İnsan beynini yeterince detaylandırarak insan ve hayvan bilişi ve bilincinin sırlarını keşfedebileceğimizi düşünmek oldukça cazip bir fikir olarak öne çıkmaktadır.Bununla birlikte zihni ve bilinci anlamaktan neredeyse uzaktayken bile, sinirbilimde elde edilen net kilometre taşları vardır. Örneğin eğer beynin anormal işleyişini tanımlayabilirsek bundan sakınmanın ve beyni yeniden efektif çalıştırmanın yollarını arayabiliriz. Bu, nörolojik bozukluklardan muzdarip insanlar için yaşamı değiştiren yeni tıbbi tedavilere yol açabilir: Epilepsi, Alzheimer hastalığı, gelişimsel bozuklukların neden olduğu sorunlar veya yaralanmaların neden olduğu hasarların giderilmesinde çok önemli faydalar sağlayabilir.

Biliyoruz bu bahsettiklerimiz yapay zeka ve kursun konusu olan yapay sinir ağları bağlamından biraz saptı. Fakat şunun farkında olmak lazım, yapay zeka aslında biyolojik sistemleri anlamaya çok şey borçludur ve ortaya çıkışı, gelişmesi de biyolojik sistemlerin algılanmasına bağlıdır. Bu yüzden sıkılmadığınızı umuyorum ve durumu formüle etmek istersek önümüze şöyle bir şey çıkacağını ifade etmek istiyorum. Yapay Zeka = Bilgisayar Bilimleri + Biyoloji olarak ifade edilebilir. Ve araştırmacılar daha iyi yapay zeka ve makine öğrenimi teknikleri geliştirmek için bir ilham kaynağı olarak biyolojik sistemleri kullanmaktadır. Bu fikir çok doğaldır: Beyin, çok çeşitli akıllı davranışları (artı zaman zaman pek de zeki olmayanları) barındıran inanılmaz derecede karmaşık bir bilgi işlem sistemidir ve bu nedenle yapay zeka sistemlerini oluşturmaya denemeye çalışırken bu sistemden ilham almamız mantıklıdır.

Sinir ağları, 1960'lardan beri AI’da önemli ölçüde incelenen ve incelenen bir alan olmuştur. Günümüzde de nöral ağlar, doğal dil ve görüntü işleme gibi pek çok alanda sinir bilimlerinden ilham alınmaktadır.

*************Sinir Ağları Konusunu Bu Kadar Özel Yapan Nedir?
Yapay zeka çalışmaları genel olarak mantık temelli bir perspektife dayanır ve sinir ağları çalışmalarından bu aşamada faydalanılır. Ve bu perspektifin temeli şudur: İnsan düzeyindeki zekayı elde etmek için, daha üst düzey düşünce süreçlerini simüle etmemiz ve özellikle mantık kurallarını kullanarak belirli somut veya soyut kavramları temsil eden sembollerin manipüle edilmesi gerekir. Yapay zeka uygulamalarından biri olan yapay sinir ağları, insan beyninin çalışma yapısını taklit ederek mevcut verileri analiz edip, bu verilerden farklı öğrenme algoritmaları ile yeni bilgiler oluşturan bilgi işlem teknolojisidir. Yapay sinir ağlarının tarihsel gelişimindeki kritik noktalarının bazılarına kısaca değinelim. Yapay sinir ağlarının temelleri 1940’ların başında araştırmalara başlayan Mc Cullogh ve Pitts’in 1943 yılında yayınladıkları bir makaleyle atılmış. Fakat yapay sinir ağı literatüründe XOR problemi olarak bilinen problemdeki başarısızlığı nedeniyle belli bir süre yapay sinir ağlarına olan ilgi azalmıştır.