编程感悟 新冠纪元 前端 软件系统设计 心绪 数学与控制 读书与历史 人工智能

自动微分的原理,基于接口的泛型实现,以及最小二乘迭代法求解优化问题

柏舟 新冠5年 03-24 阅读次数 593

仅需要定义一个简单的代数结构和使用泛型就可以求取函数的微分,使用泛型可以很容易支持不同类型的运算,同时获得微分信息。同时可以扩展到高阶导数(Jacobi, Hessian)。自动微分可以大大简化最小二乘迭代法,求解优化问题变得很容易。

波音已经病入膏肓了

柏舟 新冠5年 03-18 阅读次数 516

波音的生产部门到维护部门,全寿命周期环节全部烂完,彻底病入膏肓。

从Google的X到马斯克的X,亚美利加的通信科技

柏舟 新冠5年 03-10 阅读次数 578

通信技术是美国的基石,互联网上的应用都是浮在冰山上的一角。美国在底层和协议上都要大量投入,从以太网开始就遥遥领先。

内积空间下为什么神经网络可以拟合任何函数

柏舟 新冠5年 02-20 阅读次数 616

最小二次逼近和使用损失函数导出内积。

强烈推荐《讲给大家的中国历史》,谈中国文化基因

柏舟 新冠5年 02-10 阅读次数 602

周人的忧患观:战战兢兢,如履深渊,如履薄冰。

以Rust和Go为例编程语言的错误处理

柏舟 新冠5年 01-23 阅读次数 546

Go和Rust这类错误处理方式需要显式处理错误。优点是错误类型都是显式定义的,缺点是会污染所有后续的函数,并且影响调用栈,很难调试。

函数、老虎机、强化学习优化问题的辨识与区别

柏舟 新冠5年 01-11 阅读次数 525

区别:是否存在先验的模型,奖励函数是否可观测。有无足够的信息决定了最终是否需要平衡搜索、当前收益和未来。