钱魏Way

自动微分引擎(Autograd)全解析

[LATEXPAGE] 为什么需要自动微分 深度学习训练的核心循环可以概括为一句话:前向传播算损失,反向传播算梯度,优化器更新参数。其中「反向传播算梯度」这一步,正是由自动微分引擎(Autograd)完成的。 考虑一个典型的神经网络损失函数…

法→原理 ·
0 0 92

纯 Python 从零实现 GPT

本文基于 Andrej Karpathy 的 microgpt 博客和 Gist 代码 编写。microgpt 是一个 200 行、零依赖的纯 Python 文件,完整包含了训练和运行 GPT 所需的全部算法。 如果你用过 ChatGPT,…

法→原理 ·
0 0 92

AI让我们的工作更加轻松了?

AI让工作变得更可预测、更高效——按理说,人应该更轻松了。但现实恰恰相反:AI让工作变得更复杂、更互联、节奏更快,这反而提高了对人本身能力的需求。判断力、坦诚、敢于指出问题并尝试未知方案的勇气,这些恰恰是工具无法替代的。 更讽刺的是,当AI…

志→目标 ·
0 0 97

为什么 AI 时代提问的杠杆被放大?

当所有人都在学习 AI 工具时,最聪明的人在学习如何提出正确的问题。工具会过时,判断力不会。未来五年真正不可替代的人,不是掌握最多工具的人,而是擅长提出正确问题的人。 真正的差距不在技术,而在提问 在数据分析领域,技术技能(如 SQL,Py…

志→目标 ·
0 0 110

1-bit LLM 为何意义重大

大型语言模型(LLM)普遍过于庞大,需要昂贵的硬件才能运行,普通用户既难以负担,也无法保护隐私。而 1-bit AI(三元模型)正在改变这一局面——它能让近年顶级水平的 AI 模型直接运行在你的手机上。 什么是1-bit LLM? 传统 A…

势→趋势 ·
0 0 121

AI时代旅游内容网站是否还有未来?

AI时代,传统旅游内容网站确实面临巨大挑战,但并未失去意义。它们正处在一个关键的转型期:单纯的信息搬运和SEO(搜索引擎优化)堆砌模式已走到尽头,但基于真实体验的深度内容、信任背书和提供“体验差”的能力,反而变得更加珍贵。 传统旅游内容网站…

产品 ·
0 0 96

AI 时代个人站长做内容还是做工具?

在 AI 时代,个人站长选内容网站还是工具网站,这是一个很难回答的问题。因为纯信息整合型内容网站贬值最快,纯通用工具网站容易被大模型功能吞噬。 内容网站:还有机会,但门槛变了 挑战 搜索引擎流量被 AI 搜索、AI Overview、Cha…

产品 ·
0 0 95

大语言模型中的量化

在大语言模型(LLM)中,量化(Quantization) 是指将模型中的权重、激活值等数值从高精度浮点数(如 FP32、FP16、BF16)转换为低精度整数(如 INT8、INT4、INT2)的过程。简单说,就是用更少的比特数来表示原来的…

法→原理 ·
0 0 118

TimesFM:谷歌开源时序预测模型解析

TimesFM简介 长期以来时间序列预测还停留在"一个任务一套模型"的阶段,每次换数据集都要重新来过。2024年,Google Research推出了TimesFM(Time Series Foundation Model),将大语言模型"…

器→工具 ·
0 0 127