NPU क्या होता है? NPU का उपयोग कहाँ किया जाता है?

दोस्तो NPU क्या होता है? NPU का उपयोग कहाँ किया जाता है? :- यह बात तो आप अच्छे से जानते ही होंगे की आज कल टेक्नोलॉजी में वृधि हो रही है और ऐसे में चीजे भी काफी बदल रही है और आज कल विभिन्न प्रकार की नयी नयी चीजो का आविष्कार हो रहा है. इसका एक बड़ा कारण यह भी है की ज़रूरते ही इंसान को नयी नयी चीजो की खोज करने के लिए आकर्षित करती है. और ऐसे में Data Processing भी लगातार अपनी Speed बढाने के लिए न जाने क्या-क्या करता जा रहा है ताकि यह भविष्य में होने वाले कायों को करने में सक्षम हो सके.

आज के समय की टेक्नोलॉजी की बात की जाए तो आज कल आप देख रहे होंगे की जो भी मशीने आ रही है उनको चलाने के लिए इंसानों की कम से कम ज़रूरत होती है और ऐसे में बढती टेक्नोलॉजी को अगर देखा जाए तो अब खोजकर्ता यह सोच रहे है क्यों न भविष्य के लिए ऐसी मशीने बनायीं जाए जोकि fully automatic हो.

कई Industries और Companies ने अपने कामों को लोगों के बदले मशीनों से करवाना ठीक समझ रहे हैं. इससे उनका काम बहुत ही जल्द हो जाता है, कम पैसों में हो जाता है और इसके साथ साथ इसमें गलतियों का होना न के बराबर होता है. जोकि बहुत ही अच्छी बात है क्योकि यह बात आप अच्छे से जानते होंगे की गलतियां हमेशा इंसानों से होती है न की मशीनों से.

अत: इस टेक्नोलॉजी को Artificial Intelligence के नाम से भी जाना जाता है यहाँ मशीनों को कृत्रिम बुद्धि प्रदान की जाती है जो की खुद ही अपने intellegence की मदद से बहुत से tasks को पूरा कर देते हैं.

कई बार यह भी पाया गया है की स प्रकार के technologies के लिए complex machine learning algorithms की जरुरत होती है ताकि उसको ठीक ढंग से चलाया जा सके ये algorithms को जल्द से जल्द run करने के लिए अच्छी Microprocessor की जरुरत होती है ताकि उनकी processing power को बढ़ाया जा सके और इन सभी कामो को अंजाम देने के लिए Neural Processing Units का इस्तमाल किया जाता है.

अब तक आपको जो भी बात मैंने बताई है मैं उम्मीद करता हूँ की यह सभी बात आप लोगो को अच्छे से समझ में आ गयी होगी और चलिए अब बात कर लेते है हमारे आज के विषय को लेकर NPU क्या है (What is NPU in Hindi) और जानते हैं की आखिर ये NPU क्या होता है और इसे कहाँ इस्तमाल में लाया जाता है.

NPU क्या होता है? NPU का उपयोग कहाँ किया जाता है? — TEJWIKI.IN

NPU क्या होता है? (What is NPU)

NPU एक प्रकार का Processing Unit होता है. यह एक ख़ास तरीके का microprocessor होता है जिसे की कुछ ऐसा design किया गया है की जिससे ये machine learning algorithms को accelerate कराने में मदद करता है. इस काम के लिए ये predictive models जैसे की artificial neural networks (ANNs) or random forests (RFs) पर operate करता है.

NPU का Full Form क्या होता है ? (What is the full form of NPU)

NPU का Full Form होता है Neural Processing Unit. इसे neural processor भी कहा जाता है.

NPU के दुसरे नाम क्या क्या हैं ? (What are the other names of NPU)

NPU के बहुत से नाम मेह्जुद हैं. NPUs को लोग बहुत से नाम जैसे की tensor processing unit (TPU), neural network processor (NNP), intelligence processing unit (IPU), vision processing unit (VPU) और Graphics processing unit (GPU) के नाम से भी जानते हैं.

Neural Network क्या होता है? (What is Neural Network)

यह एक ऐसा device या software program होता है जिसमें की बहुत से interconnected elements information को process करते रहते हैं simultaneously और इसके साथ वो past patterns के हिसाब से उससे adapting और learn भी करते रहते हैं.

Machine learning processors की list

Designer	NPU
Alibaba	Ali-NPU
Baidu	Kunlun
Bitmain	Sophon
Cambricon	MLU
Google	TPU
Graphcore	IPU
Intel	NNP Myriad EyeQ
Nvidia	Volta

ये Neural Network Processing क्या होता है?

यदि हम किसी भी consumer electronics की बात करें तब सभी में आपको AI की गूंज महसूस होगी. जहाँ इस term का ज्यादा इस्तमाल Marketing team ही किया करते हैं वहीँ जब हम AI (Artificial Intelligence) की जिक्र करते हैं तब वहीँ हम specifically Machine Learning की ही बात कर रहे होते हैं.

ज्यादातर technologies जैसे की Silicon IPs में जो specialized hardware block का इस्तमाल किया गया है उन्हें ख़ास तोर से optimize किया गया है ताकि उसमें convolutional neural networks (CNNs) आसानी से run हो सके.

एक बात तो इससे साफ़ हो ही चुकी है की Neural Networks का इस्तमाल मुख्य रूप से speed और accuracy को बढ़ाने के लिए किया जाता है.

Neural Networks को चलाने का मुख्य रूप से दो ही Aspects हैं :

पहला की आपके पास एक trained model होना चाहिए जो की actual information रखता हो और जो उस data को describe करता हो जो की वह model में बाद में run होता हो. इन models की training processor intensive होती है – न केवल इसे करने में बहुत सारा काम करना होगा इसे start करने के लिए, बल्कि इसे करने के लिए greater levels of precision की जरुरत है, उन models के execution की तुलना में.

इससे हमें ये समझ आता है की एक efficient neural network training के लिए ज्यादा powerful और complex hardware की जरुरत होती है, neural networks को execute करने की तुलना में. और ख़ास इसी करनवास इन models की bulk को high performance hardware, जैसे की server-class GPUs के द्वारा train किया जाता है और specialized hardware जैसे की Google की TPUs का इस्तमाल servers पर किया जाता है cloud में.

वहीँ दूसरा aspect Neural Network (NN) यह है की इन models की execution. यदि हम इन completed models की बात करूँ तब उसमें उन्हें new data से feed करना, और ऐसे results generate करना जो की वो model perceives करते हैं सम्मिलित हैं.

ऐसा process जिसमें की neural network model की execution करना उन्हें input data प्रदान कर जिससे की आपको एक output result प्राप्त हो, ऐसे process को inferencing कहते हैं. Training और interfacing में केवल conceptual differences ही नहीं है बल्कि इसमें compute requirements भी अलग अलग हैं.

भले ही इसका नाम highly parallel compute हो, लेकिन फिर भी इसे lower precision computations से किया जा सकता है और timely execution के लिए जो overall amount की performance चाहिए वो कम होने से भी ज्यादा फर्क नहीं पड़ता है.

इसका मतलब है की हम inference को करने के लिए cheaper hardware का इस्तमाल कर सकते हैं और इसके साथ इसे बहुत से locations में और scenarios में किया जा सकता है.

NPU को क्यूँ लाया गया? (Why was NPU brought in)

हमारा तो पहले से ही ये goal था की कैसे हम neural network को locally inferencing करके run कर सकें locally किसी एक edge device पर, जिसके लिए हमारे पास इस implementation को run करने के लिए बहुत से अलग अलग processing blocks devices पर जैसे की एक smartphone.

CPU, GPU और यहाँ तक की DSPs सभी सक्षम हैं inferencing tasks को run करने के लिए, लेकिन इनमें बहुत ज्यादा efficiency differences है. जहाँ General purpose CPUs को बहुत ही कम इस्तमाल में लाया जाता है ऐसे कामों के लिए क्यूंकि उन्हें massive parallelised execution in mind को चिंता करके designed नहीं किया गया है.

वहीँ GPUs और DSPs ज्यादा बेहतर विकल्प है लेकिन फिर भी इनमें अभी और भी काम करना बाकि है. खास इसीलिए इन processor के वाबजूद भी एक नयी class की processing accelerator जिसे की NPU कहा जाता है उसे इस्तमाल में लाया गया.

चूँकि ये नए IP blocks अभी तक भी नए हैं industry में इसलिए अभी तक भी एक common nomenclature इसे प्रदान नहीं किया गया है. HiSilicon/Huawei ने इसे NPU/neural processing unit का नाम दिया है वहीँ Apple ने publicly इसे NE/neural engine कहा है.

इन NPU का उपयोग कहाँ किया गया है ? (Where are these NPUs used)

जैसे की हम जानते ही हैं की अब तो Artificial intelligence हमारे phone में भी उपलब्ध होने लगा है. यदि हम इनकी practical use की बात करें तब नए iPhone X में Neural Engine इसकी A11 Bionic chip का हिस्सा रही है.

वहीँ Huawei Kiri 970 chip में भी एक Neural Processing Unit or NPU मेह्जुद होता है; और इसके साथ Pixel 2 में भी एक secret AI-powered imaging chip को activate कर दिया गया है.

इन Next-gen chips को क्यूँ Design किया गया है ? (Why are these Next-gen chips designed)

अब सवाल आता है की आखिर इन नये next gen chips का असल में क्या मकसद है. जैसे की mobile chipsets धीरे धीरे छोटे होते जा रहे हैं और इसके साथ ज्यादा sophisticated भी, और इसके साथ वो ज्यादा काम भी कर रहे हैं, ठीक से कहें तो बहुत से अलग अलग प्रकार के jobs.

नज़र में आया है की अब integrated graphics—GPUs अब CPU के साथ ही set हो रहे हैं किसी high-end smartphones के heart में. इससे ये सभी heavy lifting कर रहे हैं visuals के जिससे main processor को थोडा कम काम करना पड़ता है और वो दुसरे काम में ज्यादा समय लगाते हैं.

ये नए प्रजाति के AI chips और भी ज्यादा smart बन जा रहे हैं और बड़े ही smoothly कई प्रकार के complex tasks को भी आसानी से handle कर पा रहे हैं.

क्या सच में NPU compete कर रहा है GPU के साथ?

भले ही यह term बहुत बार marketers और media में इस्तमाल होता रहा है, लेकिन neural processing unit (NPU) की definition अभी तक भी imprecise और immature रही है.

David Schatsky, जो की managing director हैं Deloitte LLP के, उनके अनुसार अभी तक NPU की कोई single definition मेह्जुद नहीं है. वहीँ उनके अनुसार ” ये एक ऐसा processor architecture है जिसे की कुछ ऐसा design किया गया है जो की machine learning को ज्यादा efficient बनाता हो – ज्यादा faster करता हो और इसके साथ कम power consumption करता हो“.

साथ ही नए processor architectures जो की neural processing unit जैसे terms के साथ attach हों, वो ज्यादा useful साबित हुए हैं जब AI algorithms के साथ deal किया जता है क्यूंकि training और running neural networks दोनों computationally बहुत ही demanding होते हैं.

CPUs, जो की mathematical calculations sequentially perform करते हैं, वो सारे ill-equipped होते हैं ऐसे demands को efficiently handle करने के लिए.

इससे graphics processing units (GPUs) के लिए एक बहुत बड़ा अवसर है, chips जो की parallel processing का इस्तमाल करते हैं quickly mathematical calculations perform करने के लिए.

चूँकि GPU इस field में अकेले हैं और केवल दो companies Nvidia और AMD ही है जो की पुरे market को dominate कर रहे हैं. यहाँ सभी semiconductor vendors ऐसे ही oppourtunity के तलाश में हैं जिससे कोई NPUs को launch कर सकें जो की इन GPUs को compete कर सकें.

तो क्या हैं ये Neural Processing Unit?

यहाँ पर Nvidia और AMD के बिच differentiate करने के लिए, बहुत से companies कुछ ऐसे combination का इस्तमाल करते हैं NPU क्या होता है? “any combination of ‘N,’ ‘P’ और ‘U’ जिससे वो qualify हो सकें की ये chips targeted हैं AI algorithms को execute करने के लिए और GPU के against compete करने के लिए जिन्हें की पहले ही market के इस sector में इस्तमाल किया जा रहा है.

इस competition में बहुत से बड़े companies जैसे की wireless technology vendors Qualcomm, Huawei Technologies और Apple मुख्य हैं. और ये सभी NPU या उसके कुछ variation का इस्तमाल करते हैं अपने latest tech को describe करने के लिए.

जहाँ Huawei’s Kirin 970 chip का इस्तमाल करती है एक neural processing unit के तोर पर वहीँ Qualcomm’s Snapdragon 845 mobile platform भी एक neural processing engine का इस्तमाल करता है. और दूसरी और Apple A11 Bionic processor, जो की एक neural engine है जो की machine learning algorithms को चलाता है.

इसके अलावा एक और confusion भी कईओं के मन में बैठा हुआ है. जो की है एक GPU या CPU के compare में एक neural processing unit या neural engine किसी standardized hardware या किसी specific AI functionality को refer नहीं करता है.

बल्कि analysts के अनुसार ये उनकी ability है जो की data को process करती है parallel में और कुछ commonalities होते हैं जो की इन terms को एक साथ जोड़ते हैं.

क्यूँ हमें इन AI CHIPS की जरुरत होती है?

जो मुख्य कारण है इन AI chips को इस्तमाल करने के लिए वो ये की अभी के regular cpu जो की आप phones, laptops, और desktops में देख सकते हैं वो सारे अभी के machine learning demands को fulfil नहीं कर सकते हैं, और इनके इस्तमाल से अभी के problems जैसे की slow service और fast-draining battery को जड़ से हटाया जा सकता है.

इसके अलावा parallel processing के होने से हम अपने device में multi-tasking कर सकते हैं. इसके साथ बड़े बड़े games या video software का भी इस्तमाल कर सकते हैं जिन्हें एक साथ काम करना पहले बड़ा मुस्किल काम हुआ करता था. Device की calculation speed, processing speed कई हद तक बढ़ जाती है.

तो क्या आपको भी अपने Phone में यह AI CHIP रखना जरुरी है ?

नहीं, यह जरुरी नहीं है. क्यूंकि ऐसे बहुत से tasks को हमारे devides खुद करने के लिए सक्षम हैं. पर अगर आप एक power user हैं तब तो जरुर अन्यथा इसके बारे में आपको ज्यादा सोचने की जरुरत नहीं है.

दोनों Huawei और Apple के cases में, इस नए hardware का इस्तमाल करने का मुख्य इस्तमाल इन phones को बेहतर बनाने का है. जहाँ Huawei में इसका इस्तमाल सिर्फ इसलिए हुआ था क्यूंकि ये Mate 10 के performance को परखना चाहते थे, इसके काम करने के तरीके को record करना चाहते थे. वहीँ Apple में चूँकि दो नए features जो की हैं Face ID और animoji को power up करने के लिए इस्तमाल किया गया था.

इसके अलावा अगर आपके phones में ऐसे नए features हैं जिन्हें की operate होने के लिए बहुत सारा computational power की जरुरत है, processing speed की जरुरत हैं और इसके साथ बेहतर battery की भी जरुरत है तब आपको इन AI chips की जरुरत होती है.

Conclusion

तो दोस्तों मुझे उम्मीद है की आपको मेरी यह लेख NPU क्या होता है? NPU का उपयोग कहाँ किया जाता है? जरुर पसंद आई होगी. मेरी हमेशा से यही कोशिश रहती है की readers को पूरी जानकारी प्रदान की जाये जिससे उन्हें किसी दुसरे sites या internet में उस article के सन्दर्भ में खोजने की जरुरत ही नहीं है. इससे उनकी समय की बचत भी होगी और एक ही जगह में उन्हें सभी information भी मिल जायेंगे.

यदि आपके मन में इस article को लेकर कोई भी doubts हैं या आप चाहते हैं की इसमें कुछ सुधार होनी चाहिए, तब इसके लिए आप नीचे comments लिख सकते हैं.यदि आपको यह लेख पसंद आया या कुछ सीखने को मिला तब कृपया इस पोस्ट को Social Networks जैसे कि Facebook, Twitter इत्यादि पर share कीजिये.