何凯明的从表征学习到深度学习发展进程视频学习笔记

之前囤积的很多 Read it later 里面有何凯明 入职 MIT 之前的 unpaid 课程介绍。一直挂在 Chrome 浏览器那里,想着啥时候看,今天不知咋的想着看看吧,不然就关掉了。幸亏看了,大佬讲的真是的行云流水,娓娓道来。

从 LeNet 到 AlexNet 到 VGG Nets 到 GoogleNet 到 normalization/initialization module 到 ResNet 到 RNN/1-D CNN 到 Transformer 以及应用 GPT/AlphaFold/ViT ,这里记录下每一步关键节点的意义以及作用。可以很清晰的看到深度学习技术的一步一步发展过程出现的问题,以及对应的解决方案。

Mojo : AI 原生编程语言初体验

随着昨天 Mojo 开源到 GitHub 后,想着刚好到周末,简单安装后跑跑看看语法啥,还挺有意思的。基本继承了 Python 的语法,但是也为了后续效率提供了一些编译时特性,比如既可以 REPL 直接动态运行,也可以编译成二进制可执行方式;设定两种函数定义方式,以及对应两种变量声明方式;函数入参有的编译时确定,有的运行时确定;动态内存也是折中的给用户一定规则去管理,而不是完全类似 C 的完全用户管理,或者对用户透明的 Python 放手。
另外除了语法,另一个我关注的对深度学习模型这块的原生支持【比如设计/调试/训练/压缩/部署等】因为平台还不支持,只能后续待看。

Aliyun 通过 WebDav 映射到本地

想重温大剑,然后 Aliyun 资源最容易找到,然后在线不好使会压缩,然后就找到了 Alist,然后Alist 可以很方便挂在各种网盘,比如阿里云盘,但是在实际的使用过程中遇到一个问题就是网页版本显示的内容更新不及时或者说显示不出来,但是通过将 Alist 作为 WebDav 网络协议映射到本地好像可以解决这个问题,这里就记录下用资源管理器[小文件/速度慢], Clouddrive 2[只能加载一个,但是可以映射为本地磁盘形式] 和 RailDrive[有广告,从网盘到本地磁盘形式需要付钱] 的映射方法以及使用过程中的注意点。

关于 ESP32 下着下着就不让下了这件事

下午在调试过程一直使用 460800 波特率进行下载,相安无事,但是突然不知咋的,就一直报 A fatal error occurred: MD5 of file does not match data in flash! 错误,期间退回程序,重启都没用,和软件代码无关,遂 Google 之,以及 GPT 之。尝试降低下载波特率解决。XD

关于 ESP32 的 IIC 初始化报错这件事

从来没有想过 IIC 主控芯片初始化也有可能出错,在 GPT 上聊了整个过程,最后总结一句话就是:把电源/地接到了 IIC 上,会导致 Arduino 的库本身初始化的时候检查 IIC 时序是否可以拉起来,如果拉不起来则会在串口输出错误信息,所以 Arduino 的库背后估计也有人遇到类似的问题,才做的吧。

关于 ESP32 开发板深度睡眠模式电流 11mA 这件事

在官方渠道购买的 ESP32-Pico-Kit V4.1 的板子,然后尝试了 ESPIDF 官方例程以及 GPT 帮忙生成的 Arduino 和 ESPIDF 的最小代码烧录测量,结果发现通过 USB 测量板子进入深度睡眠之后的电流均为 11mA 多点,和官方说的 10uA 以下有这天然之别,但是看过程也确实在重启,看内存也只有 RTC 内存会保留状态,也就是说模块符合预期,但是结果功耗不符合,哪里出了问题呢?查了一圈,看到两篇相关 的答案:CP2102转换芯片和线性稳压器芯片导致的。
【其实 GPT 告诉我答案了,但是我不是硬件工程师,没法办进一步定位,最后还是 Google 给了我认知范围内的答案!!!】

ESP32-C6 接收速率测试对比 ESP32-Pico

基于 PlatformIO 的 ESP32 开发环境 中用小米手机13做热点,测试了下从 PC 端上传单个大文件到 ESP32-Pico 上的速率大概是 140KB/s,这里对比同样的硬件环境。对比 ESP32-C6 的速率大概为 250KB/s,有不小的提升,但是距离我认为的起码上 M 还是有点差距。。。
【当然应该把软件也全部弄成一样才更加严谨,不过有时间再弄吧 XD】

Tailscale - 简单好用的 VPN 组网工具

Tailscale connects your team's devices and development environments for easy access to remote resources.

官方介绍如上,其实就是虚拟局域网组网,而且底层是基于 Wireguard 分布式的,相比于 Zerotier 使用起来更加简单,参考网友的说法,【如果 Zerotier 是手动挡的话,那么 Tailscale 就是自动挡】。自测联通宽带可以到达 50MB/s 还不错,移动运营商 0.5MB/s 左右,,,