 Kini awọn anfani ti lilo iṣẹ ifilọlẹ ReLU lori iṣẹ sigmoid kilasika ninu awọn nẹtiwọọki iṣan? : 1. Àwọn ohun tó ń ṣẹlẹ Ìṣòro tí ó ń mú kí ìyí kúrò: Iye tí ó pọ jùlọ tí ó jẹ àtọwọdọwọ iṣẹ sigmoid jẹ 0.25, èyí tí ó lè mú kí gbogbo ìyí di kékeré nígbà tí ó bá ń ṣe ìyí padà. Ni idakeji ReLU ni o ni kan duro gradient 1 fun rere inputs. Ìkejì. Iṣiro iṣiro: A le ṣe iṣiro ReLU nipa lilo max 0, x, ti o munadoko ju awọn iṣẹ ti o pọju lọ ni iṣẹ sigmoid. Ìkẹta. Iyara ìyípadà: a tún ròyìn wípé lílo ReLU gẹgẹ bí iṣẹ ìyípadà nínú àwọn nẹwúrọn nẹwúrọn máa ń yípadà ní kíákíá ju lílo iṣẹ sigmoid. 