Accelerated Computing olarak bilinen hızlandırılmış bilgi süreç, yapay zekâ(AI)’dan bilgi analitiğine oradan da simülasyonlara ve görselleştirmelere kadar olan güçlü uygulamaların çalışmasını hızlandırmak için paralel işlemeyi kullanır.
Konutta geçen sessiz gecelerde dahi art planda yavaşça çalışan hızlandırılmış bilgi süreç her geçen gün hayatımızı daha da yeterli hale getiriyor.
Örneğin, izlemek istediğiniz bir sineması satın almak istediğinizde sizi kredi kartı sahtekârlığından kurtarması, hoşlandığınız bir akşam yemeğini size önermesi yahut süratli sipariş verebilmenizi sağlaması hatta tahminen bir direktörün Oscar kazanmasına bile vesile olmuş olabilir.
Hızlandırılmış bilgi süreç, çoklukla sık meydana gelen misyonları bir ortaya getiren paralel sürece ile işi büyük bir ölçüde hızlandırmak maksadıyla özel donanımların kullanılmasına denilmektedir. Bununla birlikte, seri biçimde misyonları uygulayan işlemcilerle CPU’ları tıkayabilecek şiddetli işleri ortadan kaldırır.
Bilgisayar içinde doğan hızlandırılmış bilgi süreç, harika bilgisayarlar periyodunda olgunlaşmış, bugün kullandığımız akıllı telefonlarda ve tüm bulut servislerinde ömrünü sürdürüyor. Ve şu an her cinsten şirket, işletmelerini bilgilerle dönüştürmek için bu fikri benimsiyor.
Hızlandırılmış bilgisayarlar, bazen heterojen bilgi süreç olarak isimlendirilen bir mimaride CPU’ları ve öbür işlemci çeşitlerini eşit olarak bir ortaya getirir.
GPU’lar en yaygın kullanılan hızlandırıcılardır. Bilgi sürece üniteleri (DPU’lar), gelişmiş, hızlandırılmış ağ irtibatı sağlamakla birlikte süratle gelişen bir sınıftır. Birleşik, istikrarlı bir sistem oluşturmak için her birinin ana bilgisayar CPU’su ile irtibatlı bir rolü vardır.
Günümüzde hem ticari hem de teknik sistemler, makine tahsili, bilgi analitiği, simülasyonlar ve görselleştirmeler üzere işlerin üstesinden gelmek için hızlandırılmış bilgi süreç teknolojisini benimsiyor. Buna, yüksek performans ve güç verimliliğini sağlayan çağdaş bir bilgi süreç stili diyebiliriz.
Bir ana bilgisayar CPU’sunun çalışmasını hızlandırmak için bilgisayarlarda yardımcı işlemciler ismi verilen özel donanımlar ortaya çıkmıştı. Birinci olarak 1980’lerde bilgisayara ileri seviye matematik yetenekleri katan kayan noktalı işlemcilerle ön plana çıktılar.
Önümüzdeki on yıl içinde yükselişe geçen görüntü oyunları ve grafik kullanıcı orta yüzleri, grafik hızlandırıcılara olan talebi ortaya çıkarmıştır. 1993 yılına kadar yaklaşık 50 şirket grafik yongaları yahut kartları üretiyordu.
NVIDIA, 1999’da 3D manzaraları işlemek için birinci GPU çipi GeForce 256’yı piyasaya sürdü. Birebir vakitte paralel sürece için dört grafik süreç çizgisi birinci defa bu periyotta kullanıldı.
NVIDIA buna grafik süreç ünitesi (GPU) ismini vererek yeni bir bilgisayar hızlandırıcı kategorisine yer hazırladı.
NVIDIA, 2006 yılına kadar 500 milyon adet GPU sevk etmiştir. Yalnızca üç grafik satıcısından oluşan bir alana öncülük etmesi onun ufuktaki büyük fırsatı görmesini sağlamıştır.
Birtakım araştırmacılar zati GPU’ların gücünü CPU’ların erişemeyeceği vazifelere uygulamak için kendi kodlarını geliştiriyorlardı. Örneğin, Stanford’da paralel sürece için tanınan olan C lisanını yaymak gayesiyle geniş kitlelerce benimsenen birinci programlama modeli olan Brook, Ian Buck liderliğindeki bir takım tarafından tanıtıldı.
NVIDIA’da stajyer olarak başlayan Buck, şu anda hızlandırılmış bilgi süreçten sorumlu lider yardımcısı olarak misyon yapıyor. 2006 yılında, GPU içindeki rastgele bir vazife için paralel süreç motorlarını kullanmaya yarayan programlama modeli CUDA’nın piyasaya sürülmesine öncülük etti.
2007’de bir G80 işlemciyle bir ortaya gelen CUDA, genişleyen endüstriyel ve bilimsel uygulamalar dizisine hızlandırılmış bilgi süreci getiren yeni bir NVIDIA GPU serisinin güçlenmesine vesile oldu.
Bilgi merkezi için tasarlanan bu GPU ailesi, Tesla, Fermi, Kepler, Maxwell, Pascal, Volta, Turing, Ampere üzere yenilikçilerin ismini taşıyan bir dizi yeni mimariyle sistemli bir tempoda genişledi.
1990 yıllarının grafik hızlandırıcıları üzere, bu yeni GPU’lar Inmos’un mikroişlemcisi (transputer) üzere yeni paralel işlemciler de dahil olmak üzere birçok rakiple karşılaştı.
Tirias Research’te bir analist olan Kevin Krewell, “Diğerlerinin yazılım ekosisteminin olmayışı onların sonunu getirirken bu alanda hayatta kalabilen tek GPU bu oldu” dedi.
Bilime öncülük etmek maksadıyla dünyanın dört bir yanından gelen yüksek performanslı bilgi süreç uzmanları, GPU’lu hızlandırılmış HPC sistemleri oluşturmuştur. Bugün çalışmaları, kara deliklerin astrofiziğinden genom dizilimine dek pek çok alanı kapsamaktadır.
Bu ortada, Oak Ridge National Lab, hızlandırılmış bilgi süreç için bir rehber bile yayınladı.
Bu üstün bilgisayarların birden fazla, büyük, dağıtılmış GPU ağları oluşturmak için ülkü süratte, düşük gecikme periyodik bir temas sağlayan InfiniBand’ı kullanır. Hızlandırılmış ağ oluşturmanın ehemmiyetini gören NVIDIA, Nisan 2020’de InfiniBand’ın öncüsü olan Mellanox’u satın aldı. BlueField DPU’ların yol haritası, şimdiden muhteşem bilgisayarlar, bulut hizmetleri, OEM sistemleri ve üçüncü parti yazılımlar tarafından ilgi görmeye başladı.
2021 yılının Haziran ayına kadar dünyanın en süratli 500 üstün bilgisayarının 342’si ve tüm yeni sistemlerin yüzde 70’i ve birinci 10’dan sekizi de dahil olmak üzere NVIDIA teknolojilerini kullanıyordu.
Bugüne kadar CUDA ekosistemi ilaç keşfi, afet müdahalesi ve hatta Mars’a yapılacak vazife planları üzere kuvvetli işlere girişerek 700’den fazla hızlandırılmış uygulama üretmiştir.
Bu ortada, hızlandırılmış bilgi süreç, grafiklerde olacak büyük bir adıma da ön ayak oldu. Birinci ray tracing (ışın izleme) teknolojisini bizlere getiren, oyunlara ve simülasyonlara yüksek derecede gerçekçilik katan şahane görsel teknolojisiyle GeForce RTX GPU‘ları, NVIDIA’nın Turing mimarisi tarafından 2018 yılında güç kazanmıştır.
2012’de teknoloji dünyasında Big Bang üzere patlayan, yeni ve güçlü bilgi süreç biçimimizin “yapay zekâ” olacağı sinyallerini almıştık.
Aslında bu etabın özünde “paralel işleme” yatmaktadır. Bu nedenle, derin öğrenmenin birinci günlerinden itibaren araştırmacılar ve bulut hizmeti sağlayıcıları, hudut ağlarını eğitmek ve çalıştırmak için GPU hızlandırmalı bilgisayarları kullanmaya başladı.
Başkan şirketler, hızlandırılmış bilgisayarlarda yapay zekânın kıymetini süratle görmüştür.
- American Express, bunu kredi kartı dolandırıcılığını önlemek için kullanıyor.
- Bulut hizmetleri, bunu satışları yönlendiren teklif sistemlerinde kullanıyor.
- Birçok şirket, müşteri hizmetlerini geliştirmek için konuşma tabanlı yapay zeka kullanıyor.
- Telcos, akıllı 5G hizmetleri sunmak için yapay zekâ’yı araştırıyor.
- Sinema üretimcileri bunu The Irishman’de Robert De Niro ve Al Pacino’yu daha genç göstermek için kullandılar.
- Akşam yemeğinizi yerken yahut sipariş teslim alırken size büyük kolaylık sağlayan Domino’s ve DashDoor’un akıllı yapay zekâ uygulamaları da bunlara birer örnektir.
Aslında bu, eserlerini hızlandırılmış bilgi süreç için uyarlayan VMware ve Red Sınır üzere en önemli BT yazılım şirketlerinin önderleri tarafından paylaşılan bir vizyondur. Sistem üreticileri şimdiden her işletme için çalışmaya hazır, hızlandırılmış düzinelerce NVIDIA Sertifikalı Sistem bilgisayarları teslim etmeye başladı.
Bunlar çoklukla kurumsal alanda hızlandırılmış bilgi süreç seyahatine yönelik araçlardır. Basamağın daha hzılı gerçekleşmesi için NVIDIA, NGC kataloğunda olduğu üzere hazır, hızlandırılmış uygulamalar ve NVIDIA AI Enterprise, Base Command, Fleet Command üzere tam kapsamlı tahliller sunmaktadır.
John Hennessey ve David Patterson üzere bilgi süreç alanında ustalaşmış bireylere nazaran, hızlandırılmış bilgi süreç “ileriye giden tek yoldur”. Bilgi süreçte Nobel’e muadil sayılan 2017 Turing ödülünün anısına yapılan bir konuşmada, bu trendi “etki alanına mahsus mimarilere” bir hareket olarak tanımladılar.
Bununla birlikte, geleceği temsil etmesi, güç verimliliği yaklaşımının en kıymetli nedenidir. Örneğin GPU’lar, AI çıkarımında CPU’lardan 42 kat daha düzgün güç verimliliği sağlar.
Hakikaten de o denli, şayet dünya çapında AI çalıştıran tüm CPU taraflı çalışan sunucuları GPU hızlandırmalı sistemlere geçirirseniz, yılda 10 trilyon watt saat güç tasarrufu yapabiliyorsunuz.
Hızlandırılmış bilgi süreç uzmanları bu avantajlardan yararlanmaya başladı bile.
Dünyanın güç açısından en verimli harika bilgisayarlarının yer aldığı Green500 listesindeki birinci 40 sistemin otuz beşi ayrıyeten birinci 10’dan dokuzu da dahil olmak üzere NVIDIA teknolojileri üzerinde çalışmaktadır. Listedeki NVIDIA GPU’ları kullanan üstün bilgisayarlar, kullanmayanlara nazaran 3,5 kat daha fazla güç randımanı sağlamaktadır.
Daha fazla bilgi için, GTC’den hızlandırılmış bilgi süreçle ilgili konuşmalardan oluşan bir örnekleyiciyi ve aşağıdaki kurumsal alanda hızlandırılmış bilgi süreç hakkındaki video’yu izleyebilirsiniz.