_:nd8a55261a20342f896a3b0294a962b84xb1
<http://schema.org/text>
"현재 2D, 1D 데이터를 함꼐 입력하여 데이터를 추정하는 Deep Learning 모델을 설계하여 활용하고 있습니다.\r\n모델을 학습하는 과정에서 학습속도를 향상시키기 위해 Mini-batch 크기를 512에서 8192로 증가하였으나, 오히려 학습 속도가 감소하였습니다.\r\n이러한 현상에 대한 이유를 알 수 있을까요?\r\n그리고 학습 시, GPU를 사용하게 끔 설정했으나, GPU 점유율이 5% 이상을 넘지 않습니다. 모델이 단순해서 그런건지, GPU를 최대한 활용할 수 있게 옵션을 설정해야되는건지에 대해 문의드립니다.\r\n아래는 현재 사용하고 있는 모델의 구조에 대한 정보입니다.\r\n---------------------------------------------------------------------------------------\r\n학습 데이터(S,S,C,N) = 9x9x26x596354 (입력1) / 596354x8 (입력2) / 596354x1 (출력)\r\nnet = dlnetwork;\r\ntempNet = [\r\n    imageInputLayer([9 9 26],&quot;Name&quot;,&quot;imageinput&quot;,&quot;Normalization&quot;,&quot;zscore&quot;)\r\n    convolution2dLayer([3 3],26,&quot;Name&quot;,&quot;conv&quot;,&quot;Padding&quot;,&quot;same&quot;)\r\n    reluLayer(&quot;Name&quot;,&quot;relu&quot;)\r\n    averagePooling2dLayer([3 3],&quot;Name&quot;,&quot;avgpool2d&quot;,&quot;Padding&quot;,&quot;same&quot;,&quot;Stride&quot;,[3 3])\r\n    fullyConnectedLayer(26,&quot;Name&quot;,&quot;fc&quot;)\r\n    reluLayer(&quot;Name&quot;,&quot;relu_3&quot;)\r\n    flattenLayer(&quot;Name&quot;,&quot;flatten&quot;)];\r\nnet = addLayers(net,tempNet);\r\ntempNet = featureInputLayer(8,&quot;Name&quot;,&quot;featureinput&quot;);\r\nnet = addLayers(net,tempNet);\r\ntempNet = [\r\n    concatenationLayer(1,2,&quot;Name&quot;,&quot;concat&quot;)\r\n    fullyConnectedLayer(256,&quot;Name&quot;,&quot;fc_1&quot;)\r\n    reluLayer(&quot;Name&quot;,&quot;relu_1&quot;)\r\n    fullyConnectedLayer(256,&quot;Name&quot;,&quot;fc_2&quot;)\r\n    reluLayer(&quot;Name&quot;,&quot;relu_2&quot;)\r\n    fullyConnectedLayer(1,&quot;Name&quot;,&quot;fc_3&quot;)];\r\nnet = addLayers(net,tempNet);\r\n% 헬퍼 변수 정리\r\nclear tempNet;\r\nnet = connectLayers(net,&quot;featureinput&quot;,&quot;concat/in1&quot;);\r\nnet = connectLayers(net,&quot;flatten&quot;,&quot;concat/in2&quot;);\r\nnet = initialize(net);\r\n---------------------------------------------------------------------------------------"
<https://www.mathworks.com/matlabcentral/answers/2148096-deep-learning-gpu-mini-batch>