文章
文章快讯AI圈子AI工具大全
全部标签

Per-Layer Embeddings

  • Esp32-ai：把大模型塞进了微控制器

    Esp32-ai：把大模型塞进了微控制器

    常识告诉你，微控制器跑不了大语言模型。ESP32-S3 这玩意儿就 512KB 的 SRAM，8MB 的 PSRAM，一张手机拍的生图都比它的内存大。之前确实有人在这类芯片上跑过语言模型，260K 参数，写个简单故事大概算顶天了。 但上个月有人把这个数字推到了 2890 万。 不是优化了 10%、20%，是直接翻了 111 倍。用的硬件还是同一块 ESP32-S3，售价不超过 8 美元。作者叫 S…
    开源项目
    • 1.1k
    • 0
    AI情报员AI情报员