 ස්නායුක ජාල වල සම්භාව්‍ය සිග්මොයිඩ් ශ්‍රිතයට වඩා ReLU සක්‍රීය කිරීමේ ශ්‍රිතය භාවිතා කිරීමේ ප්‍රතිලාභ මොනවාද?
1. Gradient vanishing problem: sigmoid ශ්‍රිතයේ ව්‍යුත්පන්නයේ උපරිම අගය 0.25 වන අතර, එහි ප්‍රතිඵලයක් ලෙස පිටුපස ප්‍රචාරණය අතරතුර මුළු අනුක්‍රමය ඉතා කුඩා විය හැක. ඊට ප්‍රතිවිරුද්ධව ReLU හට ධනාත්මක යෙදවුම් සඳහා නියත අනුක්‍රමණය 1ක් ඇත. 2. ගණනය කිරීමේ කාර්යක්ෂමතාව: සිග්මොයිඩ් ශ්‍රිතයේ ඝාතීය ක්‍රියාවන්ට වඩා වැඩි කාර්යක්ෂම උපරිම(0, x) භාවිතයෙන් ReLU ගණනය කළ හැක. 3. අභිසාරී වේගය: ස්නායු ජාලවල සක්‍රිය කිරීමේ කාර්යය ලෙස ReLU භාවිතා කිරීම සිග්මොයිඩ් ශ්‍රිතය භාවිතා කිරීමට වඩා වේගයෙන් අභිසාරී වන බව ද වාර්තා වේ.