ニューラルネットワーク(Neural Networks)とディープラーニング(Deep Learning)は、現在、人工知能(Artificial Intelligence)で現在使用されている2つの流行語です。人工知能の世界における最近の発展は、AIの知能を向上させる上で重要な役割を果たしてきたため、これら2つに起因する可能性があります。
周りを見回すと、ますますインテリジェントなマシンが見つかります。ニューラルネットワーク(Neural Networks)とディープラーニング(Deep Learning)のおかげで、かつては人間の強みと考えられていた仕事と能力が、今では機械によって実行されています。今日、機械はもはやより複雑なアルゴリズムを食べるようには作られていませんが、代わりに、世界中の多くの産業に革命を起こすことができる自律的な自己教育システムに発展するために供給されています。
ニューラルネットワーク(Neural Networks)とディープラーニング(Deep Learning )は、画像認識、音声認識、データセット内のより深い関係の発見などのタスクで研究者に大きな成功をもたらしました。大量のデータと計算能力の可用性に助けられて、機械はオブジェクトを認識し、音声を翻訳し、複雑なパターンを識別するために自分自身を訓練し、戦略を考案し、緊急時対応計画をリアルタイムで作成する方法を学びます。
それで、これはどのように正確に機能しますか？ニュートラル(Neutral) ネットワーク(Networks)とディープラーニングの(Deep-Learning)両方が実際にディープラーニングを理解するには、(Deep)ニューラルネットワーク(Neural Networks)について最初に理解する必要があることをご存知ですか？詳細については、以下をお読みください。
ニューラルネットワークとは
ニューラル(Neural)ネットワークは基本的に、コンピューターが観測データから学習できるようにするプログラミングパターンまたはアルゴリズムのセットです。ニューラル(Neural)ネットワークは人間の脳に似ており、パターンを認識することで機能します。感覚データは、機械知覚、ラベル付け、または生の入力のクラスタリングを使用して解釈されます。認識されるパターンは数値であり、ベクトルで囲まれ、画像、音声、テキストなどのデータが変換されます。
Think Neural Network! Think how a human brain function
上記のように、ニューラルネットワークは人間の脳のように機能します。学習プロセスを通じてすべての知識を習得します。その後、シナプスの重みは取得した知識を保存します。学習プロセス中に、ネットワークのシナプスの重みは、目的を達成するために再編成されます。
人間の脳と同じように、ニューラルネットワーク(Neural Networks)は、パターン認識や知覚などの計算を迅速に実行する非線形並列情報処理システムのように機能します。その結果、これらのネットワークは、入力/信号が本質的に非線形である音声、音声、画像認識などの分野で非常に優れたパフォーマンスを発揮します。
簡単に言えば、ニューラルネットワークは人間の脳のような知識を蓄え、それを使って予測を行うことができるものとして思い出すことができます。(In simple words, you can remember Neural Network as something which is capable of stocking knowledge like a human brain and use it to make predictions.)
ニューラルネットワークの構造
（画像クレジット：Mathworks）
ニューラルネットワーク(Networks)は3つの層で構成されています。
- 入力層、
- 隠し層、そして
- 出力層。
次の図に小さな円で示されているように、各レイヤーは1つ以上のノードで構成されています。ノード間の線は、あるノードから次のノードへの情報の流れを示しています。情報は入力から出力へ、つまり左から右へと流れます（場合によっては、右から左へ、またはその逆の場合もあります）。
入力層のノードはパッシブです。つまり、データを変更しません。入力で単一の値を受け取り、その値を複数の出力に複製します。一方(Whereas)、非表示層と出力層のノードはアクティブです。したがって、データを変更できます。
相互接続された構造では、入力レイヤーからの各値が複製され、すべての非表示ノードに送信されます。隠れノードに入る値は、プログラムに保存されている所定の数値のセットである重みで乗算されます。次に、重み付けされた入力が追加されて、単一の数値が生成されます。ニューラルネットワークは、任意の数のレイヤー、およびレイヤーごとに任意の数のノードを持つことができます。ほとんどのアプリケーションは、最大数百の入力ノードを持つ3層構造を使用します
ニューラルネットワークの例(Example of Neural Network)
ソナー信号内のオブジェクトを認識するニューラルネットワークを考えてみましょう。PCには5000個の信号サンプルが保存されています。PCは、これらのサンプルが潜水艦、クジラ、氷山、海の岩、または何も表していないかどうかを判断する必要がありますか？従来のDSP(Conventional DSP)手法では、相関や周波数スペクトル分析などの数学やアルゴリズムを使用してこの問題に取り組みます。
ニューラルネットワークを使用している場合、5000個のサンプルが入力層に供給され、出力層から値がポップされます。適切な重みを選択することにより、幅広い情報を報告するように出力を構成できます。たとえば、潜水艦（yes / no）、海の岩（yes / no）、クジラ（yes / no）などの出力があります。
他の重みを使用すると、出力はオブジェクトを金属または非金属、生物学的または非生物学的、敵または味方などに分類できます。アルゴリズム、ルール、手順はありません。選択した重みの値によって決定される入力と出力の間の関係のみ。
それでは、ディープラーニングの概念を理解しましょう。(Now, let’s understand the concept of Deep Learning.)
ディープラーニングとは
ディープラーニングは基本的にニューラルネットワーク(Neural Networks)のサブセットです。おそらく、多くの隠れ層を含む複雑なニューラルネットワーク(Neural Network)と言えます。
技術的に言えば、ディープ(Deep)ラーニングはニューラルネットワークで学習するための強力な技術セットとして定義することもできます。これは、多くの層、大規模なデータセット、複雑なトレーニングモデルを可能にする強力なコンピューターハードウェアで構成される人工ニューラルネットワーク（ANN ）を指します。(ANN)これには、ますます豊富な機能の複数の層を備えた人工ニューラルネットワークを採用するメソッドとテクニックのクラスが含まれています。
ディープラーニングネットワークの構造(Structure of Deep learning network)
ディープ(Deep)ラーニングネットワークは主にニューラルネットワークアーキテクチャを使用するため、ディープニューラルネットワークと呼ばれることがよくあります。「深い」作業の使用は、ニューラルネットワークの隠れ層の数を指します。従来のニューラルネットワークには3つの隠れ層が含まれていますが、深いネットワークには120〜150もの層があります。
ディープ(Deep) ラーニング(Learning)では、コンピューターシステムに大量のデータを供給し、それを使用して他のデータに関する意思決定を行うことができます。このデータは、機械学習の場合と同様に、ニューラルネットワークを介して供給されます。深層(Deep)学習ネットワークは、手動で特徴を抽出することなく、データから直接特徴を学習できます。
ディープラーニングの例(Examples of Deep Learning)
ディープラーニングは現在、自動車(Automobile)、航空宇宙(Aerospace)、自動化(Automation)から医療(Medical)に至るまで、ほぼすべての業界で利用されています。ここにいくつかの例があります。
- Google、Netflix、Amazon：Googleは音声および画像認識アルゴリズムでそれを使用しています。NetflixとAmazonはまた、ディープラーニングを使用して、次に見たいものや購入したいものを決定します
- ドライバーなしでの運転：研究者はディープラーニングネットワークを利用して、一時停止の標識や信号機などの物体を自動的に検出しています。ディープ(Deep)ラーニングは、歩行者の検出にも使用され、事故を減らすのに役立ちます。
- 航空宇宙および防衛：ディープラーニングは、関心のある領域を特定する衛星からオブジェクトを識別し、軍隊の安全または危険なゾーンを識別するために使用されます。
- ディープラーニング(Deep Learning)のおかげで、Facebookはあなたの写真の中の友達を自動的に見つけてタグ付けします。Skypeは、音声通信をリアルタイムでかなり正確に翻訳できます。
- 医学研究：医学研究者はディープラーニングを使用して癌細胞を自動的に検出しています
- 産業用自動化(Industrial Automation)：ディープラーニングは、人や物が機械の危険な距離内にあることを自動的に検出することにより、重機周辺の労働者の安全性を向上させるのに役立ちます。
- エレクトロニクス：ディープ(Deep)ラーニングは、自動聴覚および音声翻訳で使用されています。
読む(Read)：機械学習とディープラーニングと(Machine Learning and Deep Learning)は何ですか？
結論(Conclusion)
ニューラルネットワーク(Neural Networks)の概念は新しいものではなく、研究者は過去10年ほどで中程度の成功を収めています。しかし、本当のゲームチェンジャーはディープ(Deep)ニューラルネットワークの進化です。
従来の機械学習アプローチをしのぐことで、ディープニューラルネットワークを少数の研究者だけでなくトレーニングや試行が可能であるだけでなく、近い将来、より優れたイノベーションを実現するために多国籍テクノロジー企業に採用される余地があることを示しています。
Thanks to Deep Learning and Neural Network, AI is not just doing the tasks, but it has started to think!
What is Deep Learning and Neural Network
Neural Networks and Deep Learning are currently the two hot buzzwords that are being used nowadays with Artificial Intelligence. The recent developments in the world of Artificial intelligence can be attributed to these two as they have played a significant role in improving the intelligence of AI.
Look around, and you will find more and more intelligent machines around. Thanks to Neural Networks and Deep Learning, jobs and capabilities that were once considered the forte of humans are now being performed by machines. Today, Machines are no longer made to eat more complex algorithms, but instead, they are fed to develop into an autonomous, self-teaching system capable of revolutionizing many industries all around.
Neural Networks and Deep Learning have lent enormous success to the researchers in tasks such as image recognition, speech recognition, finding deeper relations in a data sets. Aided by the availability of massive amounts of data and computational power, machines can recognize objects, translate speech, train themselves to identify complex patterns, learn how to devise strategies and make contingency plans in real-time.
So, how exactly does this work? Do you know that both Neutral Networks and Deep-Learning related, in fact, to understand Deep learning, you must first understand about Neural Networks? Read on to know more.
What is a Neural Network
A Neural network is basically a programming pattern or a set of algorithms that enables a computer to learn from the observational data. A Neural network is similar to a human brain, which works by recognizing the patterns. The sensory data is interpreted using a machine perception, labeling or clustering raw input. The patterns recognized are numerical, enclosed in vectors, into which the data such are images, sound, text, etc. are translated.
Think Neural Network! Think how a human brain function
As mentioned above, a neural network functions just like a human brain; it acquires all the knowledge through a learning process. After that, synaptic weights store the acquired knowledge. During the learning process, the synaptic weights of the network are reformed to achieve the desired objective.
Just like the human brain, Neural Networks work like non-linear parallel information-processing systems which rapidly perform computations such as pattern recognition and perception. As a result, these networks perform very well in areas like speech, audio and image recognition where the inputs/signals are inherently nonlinear.
In simple words, you can remember Neural Network as something which is capable of stocking knowledge like a human brain and use it to make predictions.
Structure of Neural Networks
(Image Credit: Mathworks)
Neural Networks comprises of three layers,
- Input layer,
- Hidden layer, and
- Output layer.
Each layer consists of one or more nodes, as shown in the below diagram by small circles. The lines between the nodes indicate the flow of information from one node to the next. The information flows from the input to the output, i.e. from left to right (in some cases it may be from right to left or both ways).
The nodes of the input layer are passive, meaning they do not modify the data. They receive a single value on their input and duplicate the value to their multiple outputs. Whereas, the nodes of the hidden and output layer are active. Thus that can they modify the data.
In an interconnected structure, each value from the input layer is duplicated and sent to all of the hidden nodes. The values entering a hidden node are multiplied by weights, a set of predetermined numbers stored in the program. The weighted inputs are then added to produce a single number. Neural networks can have any number of layers, and any number of nodes per layer. Most applications use the three-layer structure with a maximum of a few hundred input nodes
Example of Neural Network
Consider a neural network recognizing objects in a sonar signal, and there are 5000 signal samples stored in the PC. The PC has to figure out if these samples represent a submarine, whale, iceberg, sea rocks, or nothing at all? Conventional DSP methods would approach this problem with mathematics and algorithms, such as correlation and frequency spectrum analysis.
While with a neural network, the 5000 samples would be fed to the input layer, resulting in values popping from the output layer. By selecting the proper weights, the output can be configured to report a wide range of information. For instance, there might be outputs for: submarine (yes/no), sea rock (yes/no), whale (yes/no), etc.
With other weights, the outputs can classify the objects as metal or non-metal, biological or non-biological, enemy or ally, etc. No algorithms, no rules, no procedures; only a relationship between the input and output dictated by the values of the weights selected.
Now, let’s understand the concept of Deep Learning.
What is a Deep Learning
Deep learning is basically a subset of Neural Networks; perhaps you can say a complex Neural Network with many hidden layers in it.
Technically speaking, Deep learning can also be defined as a powerful set of techniques for learning in neural networks. It refers to artificial neural networks (ANN) that are composed of many layers, massive data sets, powerful computer hardware to make complicated training model possible. It contains the class of methods and techniques that employ artificial neural networks with multiple layers of increasingly richer functionality.
Structure of Deep learning network
Deep learning networks mostly use neural network architectures and hence are often referred to as deep neural networks. Use of work “deep” refers to the number of hidden layers in the neural network. A conventional neural network contains three hidden layers, while deep networks can have as many as 120- 150.
Deep Learning involves feeding a computer system a lot of data, which it can use to make decisions about other data. This data is fed through neural networks, as is the case in machine learning. Deep learning networks can learn features directly from the data without the need for manual feature extraction.
Examples of Deep Learning
Deep learning is currently being utilized in almost every industry starting from Automobile, Aerospace, and Automation to Medical. Here are some of the examples.
- Google, Netflix, and Amazon: Google uses it in its voice and image recognition algorithms. Netflix and Amazon also use deep learning to decide what you want to watch or buy next
- Driving without a driver: Researchers are utilizing deep learning networks to automatically detect objects such as stop signs and traffic lights. Deep learning is also used to detect pedestrians, which helps decrease accidents.
- Aerospace and Defense: Deep learning is used to identify objects from satellites that locate areas of interest, and identify safe or unsafe zones for troops.
- Thanks to Deep Learning, Facebook automatically finds and tags friends in your photos. Skype can translate spoken communications in real-time and pretty accurately too.
- Medical Research: Medical researchers are using deep learning to automatically detect cancer cells
- Industrial Automation: Deep learning is helping to improve worker safety around heavy machinery by automatically detecting when people or objects are within an unsafe distance of machines.
- Electronics: Deep learning is being used in automated hearing and speech translation.
Read: What is Machine Learning and Deep Learning?
Conclusion
The concept of Neural Networks is not new, and researchers have met with moderate success in the last decade or so. But the real game-changer has been the evolution of Deep neural networks.
By out-performing the traditional machine learning approaches it has showcased that deep neural networks can be trained and trialed not just by few researchers, but it has the scope to be adopted by multinational technology companies to come with better innovations in the near future.
Thanks to Deep Learning and Neural Network, AI is not just doing the tasks, but it has started to think!
