手机浏览器扫描二维码访问
激活函数:连接感知机和神经网络的桥梁
要理解激活函数如何把简单的感知机变成复杂的神经网络,我们可以用一个故事和一个比喻来说明。
故事比喻:魔法学院的考核门
在一座神秘的魔法学院里,有许多魔法师想要进入更高等级的殿堂学习更强大的法术。但这座学院设有一道道考核门,每一扇门都会评估魔法师的潜力,决定他们是否有资格进入下一层。
这些考核门,就像神经网络中的激活函数,它们决定哪些信息可以继续往下传递,哪些信息应该被忽略。
激活函数的作用:筛选并放大关键信息
每个魔法师在进入考核门之前,都需要经过以下流程:
1.计算魔力值(感知机的加权求和)
?每个魔法师的能力不同,有些擅长火球术,有些擅长治愈术,还有些只是普通人。
?在进入考核门之前,学院的考官会对每位魔法师的天赋进行加权评分(相当于神经网络的加权求和)。
?比如,火系魔法的分数高,治疗系魔法的分数低,不同魔法的权重不同。
比喻:这就像感知机中的线性计算,它只是单纯地累加输入信息,但还没有真正决定“谁能晋级”。
2.进入考核门(激活函数的作用)
?魔法学院的考核门不会让所有魔法师都进入下一层,它会根据他们的魔力值来筛选:
?如果魔力值太低,考核门会直接关闭(相当于ReLU函数把负值变成0)。
?如果魔力值很高,考核门会全力开启,让魔法师顺利通过(相当于Sigmoid或ReLU把大数保留)。
?如果魔力值一般,考核门可能会半开半闭,让部分魔法师勉强进入(相当于Sigmoid在0附近平滑过渡)。
比喻:这个考核门就是激活函数,它决定哪些信息(魔法师)能继续传递,哪些信息(魔法师)会被屏蔽。
3.进入下一层(神经网络的深度学习)
?通过考核门的魔法师,进入更高级的学院,学习更复杂的魔法。
?这一层的导师会根据他们的技能,进一步筛选、训练,并将合格者送往更高层次的殿堂。
?只有经历多层训练的魔法师,最终才能成为大魔导师(神经网络最终完成学习和预测)。
崩坏:从西琳开始捕获小小律者 神谕之十二生肖 玉孤 黑芒科技之途 吞天仙根 迷雾中的真相:侦探手记 开局表白女神,一剑震撼万族 穿越兽世,日日扶腰求放过 尸之仙 盗墓:无故失忆后我直接发癫 银镜通古今,侯府真千金带崽开挂了! 女将带球跑后,死对头一夜哭白头 重回1978都市放牛 夺我灵根骂我狠?先天绝情圣体已成! 重生后被亿万富豪逼婚,渣男傻眼 叶尘:重生在赘婿逆袭之路 开局校花太太向我道歉,东京末日 海贼:洛克斯时代第一剑豪! 穿越之异世奇遇迹 我是赵梦凡
一个被部队开除军籍的特种兵回到了都市,看他如何在充满诱惑的都市里翻云覆雨...
这小小的四合院,住着一群租房客,而陈阳则是房东。好吧,既然如此,保护房客这个光荣而艰巨的任务,只能落在我的头上了。陈阳书友QQ群188631860...
落魄功夫小生陆麟,拥有一台能做出炫酷特效的超级电脑。从此华语影片不在是低成本小制作的代名词。奇幻瑰丽的仙侠世界登上银幕,沉迷华夏网文的外国小哥,不再期待漫威!...
格斗,医术,算命,鉴宝,泡妞无一不精。嚣张,霸气,睿智,重情,重义集于一身。水有源,树有根!他就是世界最强者的唯一门徒!从此,最狂门徒诞生!慕容2015都市新作,请大家多多支持!慕容官方交流群慕容世家167168067另,慕容完本作品特种高手纵横都市还请大家多多支持!...
...
本书又名你是我戒不掉的甜秦南御第一次遇见纪微甜,丢了重要信息。秦南御第二次遇见纪微甜,丢了相亲对象。秦南御第三次遇见纪微甜,丢了人如果有人问他,最厌恶的异性类型是什么样的,他会毫不犹...