置顶文章
文章列表
李宏毅-生成式AI-机器学习基本原理
# 根据函数来分类
回归 (Regression): 输入经过函数 (抽象的函数) 输出一个值
分类 (Classification): 函数的输出是一个类别
但是机器学习还有一个很困难的问题,就是 structured learning
生成有结构的物件:影相、文句
又叫生成式学习
深度学习中类神经网络的结构:如 CNN、RNN、Transformer 等等,就是待选函式结构的集合。
# 评价函数好坏: loss function
loss function
# 生成式学习的两种策略
各个击破、一次到位
各个击破:如一个文字一个文字生成
一次到位:一次输出就是一段文字或者图像
#...
more...
算子的设计
# 算子的设计
算子是神经网络中用来处理加法 / 减法 / 激活函数等的抽象
# 算子基类
层的名字 / 类型:
线性 / Encode/Embedding/Softmax/Add 等
算子类型: dataType: fp32/int32 等这种
设备类型: CPU/GPU 即 Layer 即可以在 CPU 上实现,也可以在 GPU 上实现
算子有输入,且输入可能并不唯一,所以设计上通常会提供一个接口: set_input (index,Tensor) 这样,第一个参数表示输入参数的下标.
输出同理
算子的计算过程:通常以 base_forward 来命名,每个算子重写...
more...
【PBRT V4 -1】 Chapter1
[toc]
# 环境搭建
pbrt 主仓库: https://github.com/mmp/pbrt-v4 直接 Cmake
pbrt 场景主仓库: https://github.com/mmp/pbrt-v4-scenes
下载 rtev 的 release 版本: https://github.com/Tom94/tev
执行 shell
V4web 书: https://pbr-book.org/4ed/contents
1pbrt --display-server localhost:14158 scene.pbrt
#...
more...
Sol.Index
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107二、【钱氏家训】全文 个人 心术不可得罪于天地,言行皆当无愧于圣贤。 曾子之三省勿忘。 程子之四箴宜佩。 持躬不可不谨严。 临财不可不廉介。 处事不可不决断。...
more...
Games001-向量空间
Katex 文档: https://katex.org/docs/support_table.html
# 空间
空间本身是一个抽象的概念,向量空间也是一个概念,空间从抽象概念上来讲可以是任何东西构成的 (如颜色空间)
# 矩阵分解
# 矩阵分解
PLU 分解: A=PLUA=PLUA=PLU
要求:方阵
P 为初等变换矩阵,L 为下三角矩阵,U 为上三角矩阵
当 P 取单位矩阵时则退化为 LU 分解
应用:高斯消元求解矩阵方程
例子 (对下式进行 PLU 分解):
A=[9606543410]A=
\begin{bmatrix}
9 & 6...
more...
【UE】源码学习-渲染主框架
[toc]
# 视口渲染
入口在 EditorViewportCLient.cpp -> FEditorViewportClient::Draw 函数中
设置视口
获取当前 world 设置初始时间
如果世界还在改变过程中,则返回,不继续执行
设置 DebugCanvas 的显示 (Runtime 会直接被干掉,Editor 会显示)
123456789101112// Allow HMD to modify the view later, just before renderingconst bool bStereoRendering =...
more...
【编译原理】 阶段性小结(后端)
[toc]
# 概述
书接上回
http://146.56.209.11:90/2023/12/30/% e3%80%90% e7% bc%96% e8% af%91% e5%8e%9f% e7%90%86% e3%80%91-% e9%98% b6% e6% ae% b5% e6%80% a7% e5% b0%8f% e7% bb%93% e5%89%8d% e7% ab% af/ 编译器之后即是后端,这里主要是记录下学习后端的体系化知识
# 指令
通常语言在抽象语法树之后都会根据抽象语法树生成一套指令,通常指令都是使用
指令 操作数 A, 操作数 B…
这样的方式存储的...
more...
【编译原理】 阶段性小结(前端)
[toc]
# 小结
现代的语言通常会划分成前后端
这里主要小结下前端:
即前端负责词法的解析与语义树的构建等,前端最终的目标是构建出一个抽象语法树,实际上在基本的前端框架确定后,添加新的语法就比较简单了
# 前端模块的划分
假设代码输入了一个 string 字符串
这堆字符串会先输入 Lexer (词法分析器) 其中 Lexer 主要负责从代码中读取出一个又一个 Token 或者其他针对字符串检索的任务
Token: 我个人觉得用 “标记” 翻译这个单次比较合适
即一个标记可以是 变量 / 常量 / 运算符 / 语句终结符 等
比如:
1int ptr = 321;
其中 i、=、321、;...
more...