ALL CATEGORIES

📚 11 articles · 🏷 7 tags · 📂 5 categories · 📖 ~46k words

Algorithm

  • 1. GLM-4.6V

    这篇 blog 主要还是从数据上进行解析 GLM-4.6V,结构和训练方面只进行简单提及

  • 2. BFCL-TauBench

    这篇 Blog 主要对关于 multi turn 和 function call 相关的 benchmark:The Berkeley Function-Calling Leaderboard 和 τ-Bench 进行介绍

  • 3. Policy Optimization MPO DAPO GSPO

    这篇 Blog 主要对 MPO、DAPO、GSPO 进行介绍,这几种强化学习的方法或基于 DPO 或基于 GRPO 改进。因此默认已经有相关知识,这里就不再赘述了

  • 4. DETR SERIES

    🎍本篇文章主要对 DETR 的相关类容进行简单的介绍,内容涉及DETR、Deformable DETR、DAB-DETR、DN-DETR 和 DINO 等 Transformer 在目标检测领域应用的算法。

  • 5. YoloV7 标签匹配及 loss 计算解析

    🎍本篇文章主要对 YoloV7 的后处理进行详细讲解,YoloV7 除了结构上,对前后处理都进行了改进,其余包括 scheduler、optimizer 等与 YoloV6 都是保持一致的。

Cuda

  • 1. CUDA 编程(进阶篇)

    GEMM 优化本身是一个非常值得讨论的课题,其优化也涉及 GPU 中优化的大多数常用的技巧。这部分以解析知乎大佬有了琦琦的棍子文章中的代码进行解读,也作为代码阅读笔记梳理整个思路

Infra

  • 1. 让 Packing 加速你的大模型训练

    这篇 Blog 介绍一下跟训练效率相关的内容,来自于两篇主要通过 Packing 技术解决 VLM 和 LLM 中 Load Unbalance 的 Paper,都是来自上海交通大学和商汤科技研究院的两项工作

Stock

  • 1. 《笑傲股市》的记录

    笑傲股市由威廉-欧奈尔著,主要关注在景气类投资标的的思考,介绍了技术形态、财报指标以及止盈止损的定量建议

Blog

  • 1. Tufte-style Jekyll blog

    The Tufte Jekyll theme is an attempt to create a website design with the look and feel of Edward Tufte’s books and handouts. Tufte’s style is known for its extensive use of sidenotes, tight integration of graphics with text, and well-set typography.

Summary

  • 1. AI 之旅之从识图到读书

    这是我对过去三年工作的一个小总结。TS 公司是我毕业后加入的第一家公司,所在的部门是公司研究院下所在的部门。

微积分

  • 1. 变限积分求导的种种

    变上限积分求导的理解

    假设 \(F(x)\) 是 \(f(x)\) 的一个原函数,即 \(F^{\prime}(x) = f(x)\)。那么对 \(f(x)\) 积分,有:

    \[\int f(x) dx = \int F^{\prime}(x) dx= F(x) +C\]

    其中 \(C\) 是常数,可以将其表示为 \(-F(a)\)。如果 \(f(x)\) 在 \([a, x]\) 上连续,我们对其进行积分:

    \[\int_{a}^{x} f(t) dt = \int_{a}^{x} F^{\prime}(t) dt= F(x) - F(a) = F(x) + C\]
ARCHIVE - clay harmon