機械学習の推論には必要な3つの重要なコンポーネントがあります。データソース、データを処理するための機械学習システム、およびデータ宛先です。GPUは、今日の機械学習アプリケーションの開発において重要な役割を果たします。機械学習アプリケーション用のGPUを選択するとき、いくつかのメーカーから選択できます。CUDAコアは、汎用並列コンピューティングタスクに適していますが、テンソルコアは深い学習や大規模なマトリックス操作を含むAIワークロードに適しています。
There are three key components needed for machine learning inference: a data source, a machine learning system to process the data, and a data destination. GPUs play an important role in the development of today's machine learning applications. When choosing a GPU for machine learning applications, there are several manufacturers to choose from.  CUDA cores are better for general purpose parallel computing tasks, while Tensor cores are better for deep learning and AI workloads that involve large matrix operations.