CUDA untuk llama.cpp
substack.com
CUDA untuk llama.cpp
Ada sebuah mesin inferensi legendaris untuk LLM, llama.cpp. Pernah memakai LM Studio, Kobold, Jan, Ollama, dll? Hampir pasti ada peran llama.cpp di balik semuanya.
7 个月之前
Llama Game Development
Llama Reaches 1 Billion Downloads! We're thrilled to announce that Llama has surpassed 1 billion downloads 🚀 A huge thank you to our developer community for leveraging Llama's capabilities to build innovative applications and push the boundaries of what's possible with open source. We can't wait to see what you build next! Join the community and download Llama today: https://bit.ly/4bWa1I6 | Meta for Developers
0:04
Llama Reaches 1 Billion Downloads! We're thrilled to announce that Llama has surpassed 1 billion downloads 🚀 A huge thank you to our developer community for leveraging Llama's capabilities to build innovative applications and push the boundaries of what's possible with open source. We can't wait to see what you build next! Join the community and download Llama today: https://bit.ly/4bWa1I6 | Meta for Developers
FacebookMeta for Developers
已浏览 6998 次11 个月之前
70M views · 24K reactions | We’re excited to announce we’ve opened up...
0:22
70M views · 24K reactions | We’re excited to announce we’ve opened up...
FacebookMeta for Developers
已浏览 801万 次1 周前
Take your AI development skills to the next level with our latest course on Deeplearning.ai, "Building with Llama 4", taught by Andrew Ng and Amit Sangani, Director of Partner Engineering for Meta's AI team. In this comprehensive course, you'll learn how to harness the power of Llama 4, which enables deployment easier than before and achieves more advanced multi-modal understanding by prompting over multiple images. You'll discover how to: - Build applications that reason over visual content, de
3:23
Take your AI development skills to the next level with our latest course on Deeplearning.ai, "Building with Llama 4", taught by Andrew Ng and Amit Sangani, Director of Partner Engineering for Meta's AI team. In this comprehensive course, you'll learn how to harness the power of Llama 4, which enables deployment easier than before and achieves more advanced multi-modal understanding by prompting over multiple images. You'll discover how to: - Build applications that reason over visual content, de
FacebookMeta for Developers
已浏览 1.2万 次8 个月之前
热门视频
Getting Started With CUDA for Python Programmers
Getting Started With CUDA for Python Programmers
substack.com
2024年8月8日
llama.cpp: CPU vs GPU, shared VRAM and Inference Speed
llama.cpp: CPU vs GPU, shared VRAM and Inference Speed
dev.to
4 个月之前
英伟达让AI自动写代码的开源神器直接能用了
0:21
英伟达让AI自动写代码的开源神器直接能用了
bilibili赛文乔伊
已浏览 10.9万 次2023年9月18日
Llama C++ Tutorial
LLaMa for Developers Online Class | LinkedIn Learning, formerly Lynda.com
LLaMa for Developers Online Class | LinkedIn Learning, formerly Lynda.com
linkedin.com
2024年4月17日
How to install Llama.cpp on Linux with GPU support
7:54
How to install Llama.cpp on Linux with GPU support
YouTubePrimitive Finance
已浏览 642 次2 个月之前
五分钟用C#在CPU上部署大模型【LLamaSharp × LLaMa Alpaca-2 教程】
5:04
五分钟用C#在CPU上部署大模型【LLamaSharp × LLaMa Alpaca-2 教程】
bilibili独立的蛋壳
已浏览 1322 次2024年2月8日
Getting Started With CUDA for Python Programmers
Getting Started With CUDA for Python Programmers
2024年8月8日
substack.com
llama.cpp: CPU vs GPU, shared VRAM and Inference Speed
llama.cpp: CPU vs GPU, shared VRAM and Inference Speed
4 个月之前
dev.to
英伟达让AI自动写代码的开源神器直接能用了
0:21
英伟达让AI自动写代码的开源神器直接能用了
已浏览 10.9万 次2023年9月18日
bilibili赛文乔伊
Compare cpu vs clblast vs cuda on llama.cpp
Compare cpu vs clblast vs cuda on llama.cpp
已浏览 891 次2023年5月13日
YouTubeedp1096
LLaMa.cpp (RUN LLAMA WITH NO GPU)(NO SPEED LOSS)(65B model runs with 40GB memory!!)
14:16
LLaMa.cpp (RUN LLAMA WITH NO GPU)(NO SPEED LOSS)(65B mode…
已浏览 2.6万 次2023年3月14日
YouTubeXDoesTech
【Llama.cpp使用详解】如何使用Llama.cpp在本地运行大语言模型| GGUF 转换 | 模型的量化 | 可以利用 Llama.cpp手搓 Apple Intelligence吗？
36:53
【Llama.cpp使用详解】如何使用Llama.cpp在本地运行大语言模型| G…
已浏览 2251 次2024年11月11日
YouTube畅的科技工坊
AI实战课题2：LLama.cpp+cmake+cpu本地部署模型
6:51
AI实战课题2：LLama.cpp+cmake+cpu本地部 …
已浏览 121 次9 个月之前
YouTube数字窥探者
7:27
无需GPU，windows本地部署llama2大模型，python接口生成文本
已浏览 407 次2023年8月22日
zhihu.com小黑黑讲AI
17:07
Windows下中文微调Llama3，单卡8G显存只需5分钟，模型可接入GP…
已浏览 10.3万 次2024年4月27日
YouTubeAI探索与发现
8:45
【双语 纯享】🔥💥本地AI重磅升级！Llama.cpp震撼对决Ollama完全解析
已浏览 2005 次3 个月之前
bilibili比特光锥_BlightCone
7:36
使用llama.cpp本地部署大模型
已浏览 5587 次10 个月之前
bilibiliEslzzyl
13:06
在摩尔线程原生驱动上进行Llama.cpp的推理（没有使用vulka…
已浏览 5438 次2024年10月26日
bilibili表里世界不一样
5:17
P4：llama.cpp项目深度解读：本地LLM推理引擎核心原理与应用详解
已浏览 1330 次11 个月之前
bilibiliitsWMW
10:59
windows linux支持-llama.cpp ui管理-通用vulkan方案加速大语言模型推理
已浏览 573 次9 个月之前
bilibili啊啊啊啊啊啊啊凡达
3:50
无门槛人人可用. llama.cpp现已进入chatGPT Box自定义模型支持列表
已浏览 1.2万 次2023年4月7日
bilibili国服第一海豹
4:04
CPU反超NPU，llama.cpp生成速度翻5倍！ LLM端侧部署新范式T-MAC …
已浏览 6146 次2024年8月16日
bilibili刘靖峰-峰哥讲AI
4:01
基于llama.cpp的alpaca-7b-chinese实测
已浏览 2268 次2023年4月15日
bilibiliminus_zone
3:25
重磅更新，让你轻松使用code llama写程序，一款足以替代程序员的开源 …
已浏览 4491 次2023年8月30日
bilibiliAI超元域
22:33
【Llama.cpp】开源量化推理框架使用指南--上：以量化Qwen2.5为例实 …
已浏览 512 次2024年12月30日
bilibili建元Aris
34:38
嵌入式AI革命！端侧部署llama.cpp+人机视觉对话应用，功耗5W+低延迟
已浏览 871 次11 个月之前
bilibili智驭导师授AI
5:13
CUDACast #10a - Your First CUDA Python Program
已浏览 15.5万 次2017年7月20日
YouTubeNVIDIA Developer
22:49
AI实战课题1：LLama.cpp cmake gpu本地部署模型
已浏览 6917 次9 个月之前
bilibili数字窥探者
30:30
PyHEP 2021: CUDA and Python with Numba
已浏览 3719 次2021年7月18日
YouTubeHEP Software Foundation
15:07
一猫之下 v100 双卡扩展坞 | 编译 llama.cpp
已浏览 1006 次5 个月之前
bilibili佰年之玖
16:35
llama3 fine-tuning｜ 使用llama.cpp 量化Llama3模型｜GPT4All接入 …
已浏览 261 次2024年5月4日
bilibili红豆AI视频翻译
7:59
【大模型部署】llama.cpp大模型算子源码详解（已完结~）
已浏览 1.1万 次2025年2月14日
bilibili比飞鸟贵重的多_HKL
10:55
llama.cpp本地部署：摄像头秒变AI眼！万物识别/AI纠坐姿/批量处理 | Ge…
已浏览 1.6万 次10 个月之前
bilibilikate人不错
2:43
类chatgpt模型llama windows cpu版本本地运行 教学部署
已浏览 2863 次2023年4月1日
bilibili热爱编程的小苏
4:03
ComfyUI 安装 TIPO 节点教程：解决 llama-cpp-python 安装问题
已浏览 3058 次2025年1月1日
bilibiliTomXPRIME
观看更多视频
静态缩略图占位符