Update Thinking Like Transformers-cn.md
Browse files
Thinking Like Transformers-cn.md
CHANGED
@@ -1,7 +1,7 @@
|
|
1 |
# 了解 Transformers 是如何“思考”的
|
2 |
|
3 |
-
- [
|
4 |
-
-
|
5 |
- 库和交互 Notebook: [srush/raspy](https://github.com/srush/RASPy)
|
6 |
|
7 |
Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Transformer 如何工作" 的核心结构图表。
|
@@ -14,7 +14,7 @@ Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Trans
|
|
14 |
|
15 |
但是这些图表没有提供任何直观的计算该模型的框架表示。当研究者对于 Transformer 如何工作抱有兴趣时,直观的获取他运行的机制变得十分有用。
|
16 |
|
17 |
-
[
|
18 |
|
19 |
在这篇博客中,我用 python 复现了 RASP 的变体 (RASPy)。该语言大致与原始版本相当,但是多了一些我认为很有趣的变化。通过这些语言,作者 Gail Weiss 的工作,提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
|
20 |
|
@@ -646,15 +646,15 @@ add()("683+345")
|
|
646 |
```python
|
647 |
1028
|
648 |
```
|
649 |
-
|
650 |
|
651 |
-
|
|
|
652 |
|
653 |
-
|
|
|
654 |
|
655 |
-
|
656 |
-
|
657 |
-
这篇博文,包括库、可视化和博文,可在 https://github.com/srush/raspy 获取。
|
658 |
|
659 |
<hr>
|
660 |
|
|
|
1 |
# 了解 Transformers 是如何“思考”的
|
2 |
|
3 |
+
- [参考论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
|
4 |
+
- 本博客文章由 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/) 共同编写
|
5 |
- 库和交互 Notebook: [srush/raspy](https://github.com/srush/RASPy)
|
6 |
|
7 |
Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Transformer 如何工作" 的核心结构图表。
|
|
|
14 |
|
15 |
但是这些图表没有提供任何直观的计算该模型的框架表示。当研究者对于 Transformer 如何工作抱有兴趣时,直观的获取他运行的机制变得十分有用。
|
16 |
|
17 |
+
[Thinking Like Transformers](https://arxiv.org/pdf/2106.06981.pdf) 这篇论文中提出了 transformer 类的计算框架,这个框架直接计算和模仿 Transformer 计算。使用 [RASP](https://github.com/tech-srl/RASP) 编程语言,使每个程序编译成一个特殊的 Transformer 。
|
18 |
|
19 |
在这篇博客中,我用 python 复现了 RASP 的变体 (RASPy)。该语言大致与原始版本相当,但是多了一些我认为很有趣的变化。通过这些语言,作者 Gail Weiss 的工作,提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
|
20 |
|
|
|
646 |
```python
|
647 |
1028
|
648 |
```
|
649 |
+
完美搞定!
|
650 |
|
651 |
+
如果你对这个主题感兴趣想了解更多,请务必查看论文:
|
652 |
+
[Thinking Like Transformers](https://arxiv.org/pdf/2106.06981.pdf) 以及 [RASP 语言](https://github.com/tech-srl/RASP)。
|
653 |
|
654 |
+
如果你对「形式语言和神经网络」(FLaNN) 感兴趣或者有认识感兴趣的人,欢迎邀请他们加入我们的线上社区!
|
655 |
+
https://flann.super.site/
|
656 |
|
657 |
+
本篇博文,包含库、可视化和博文,可在 https://github.com/srush/raspy 查看和获取。
|
|
|
|
|
658 |
|
659 |
<hr>
|
660 |
|