05
08
2024
OpenDevin出技术报告了，大模型Agent开发者必读
热门通用大模型Agent平台。今年3月，「全球首位AI软件工程师」Devin引爆了AI圈。与此前AI编程助手不同的是，Devin并不只是辅助编程的角色，而是能够独立地、端到端地完成整个开发项目。Dev...
24
07
2024
从裸机到700亿参数大模型，这里有份教程，还有现成可用的脚本
我们知道LLM是在大规模计算机集群上使用海量数据训练得到的，本站曾介绍过不少用于辅助和改进LLM训练流程的方法和技术。而今天，我们要分享的是一篇深入技术底层的文章，介绍如何将一堆连操作系统也没有的「裸...
17
07
2024
太酷了！iPhone、iPad、MacBook老旧设备组成异构集群，能跑Llama 3
假如你有闲置的设备，或许可以试一试。这次，你手里的硬件设备也能在AI领域大展拳脚了。将iPhone、iPad、Macbook进行组合，就能组装成「异构集群推理方案」，然后顺畅的运行Llama3模型。值...
06
06
2024
在OpenHarmony本地部署大语言模型
本文将第二届OpenHarmony技术大会上展示的《在OpenHarmony本地部署大语言模型》成果开源，开源地址：https://gitee.com/openharmony-sig/tpc_c_cp...
05
06
2024
本地使用Groq Llama 3 70B的逐步指南
译者|布加迪审校|重楼本文介绍了如何使用GroqLPU推理引擎在JanAI和VSCode中生成超快速响应。每个人都致力于构建更好的大语言模型（LLM），例如Groq专注于AI的基础设施方面。这些大模型...