news 2026/5/23 13:15:10

抱脸(huggingface)的使用姿势

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
抱脸(huggingface)的使用姿势

抱脸(huggingface)的使用姿势

简介

抱脸huggingface.co,其实早知道他有一个很好的免费资源给到所有用户:2c16g

这个配置,也许扛不动太多的流量业务,但是足够部署各种学习和测试环境了。一直没动心思,只是因为他需要私网来访问。但是随着内存翻了几番,各家开始抠起来,就又想起来他了。

尝试几种姿势

hugging face space: https://huggingface.co/spaces

首先这里有这大量的别人公开的项目,可以多看看,知道这个space能做什么(部分是付费的)

jupyter lab

抱脸大数据,大模型,最先想到的事python,最友好的工具就是jupyter了,先试试他:

点击“new space” ,然后按照如下选择:

新建好会自动打开,登录后如下图:

  1. ipykernel 正常notebook ,如下:

  1. terminal 可以用来安装软件和包

另外需要注意,源码包映射的事/app, 而jupyterlba打开的数据目录是/data,如果想要保存ntebook,记得自己保存(下载或者挪入git)

restful api

作为一个苦逼程序员,任何时候很容易想到的,就是部署一个restful测试环境:

这个直接按照官方文档建了一个:https://huggingface.co/docs/hub/spaces-sdks-docker-first-demo

这是一个泗洪fastapi写的helloworld:

fromfastapiimportFastAPI app=FastAPI()@app.get("/")defgreet_json():return{"Hello":"yiqiu!"}

dockerfile

FROM python:3.9 RUN useradd -m -u 1000 user USER user ENV PATH="/home/user/.local/bin:$PATH" WORKDIR /app COPY --chown=user ./requirements.txt requirements.txt RUN pip install --no-cache-dir --upgrade -r requirements.txt COPY --chown=user . /app CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]

代码提交后,会自动启动:

注意,这是一个嵌入式的,想要直接当restful访问是不行,参考如下:

找到这个菜单:

打开的窗口:

这个就是独立地址,来试试:


这就是要的效果,可以用来当做后端测试了。

终极

提供的很多docker模板,就不一一测试了,来试试终极:blank

我的理解,就是可以自定义dockerfile,来试试!

新建完有了git地址,直接下载代码(就是个空的),新建一个dockerfile

FROM debian:trixie RUN apt-get update && apt-get install -y \ curl \ wget \ && rm -rf /var/lib/apt/lists/* RUN curl -fsSL -o /usr/local/bin/ttyd https://github.com/tsl0922/ttyd/releases/download/1.7.7/ttyd.x86_64 && \ chmod +x /usr/local/bin/ttyd ENTRYPOINT ["/usr/local/bin/ttyd","-p","7860","-W","/usr/bin/bash"]

就是一debian为基,装了个webssh,提交代码(push),然后系统会自动开始启动:

成了!!

装了几个软件,看看资源,一切正常,可惜,docker in docker 没有……

好了,现在可以发挥创造力了!!!!

小结

抱脸,还是值得找个私网来访问的,毕竟现在存储那么贵,各家都开始扣起来了,他的价值也慢慢体现……

微信公众号:

https://mp.weixin.qq.com/s/a_Y4yqk4ZO_UBcXiZPc-7Q

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/10 5:47:03

Qwen2.5-7B实时推理:低延迟应用场景实现

Qwen2.5-7B实时推理:低延迟应用场景实现 1. 引言:为何需要低延迟的Qwen2.5-7B推理方案? 随着大语言模型(LLM)在客服、智能助手、代码生成等场景中的广泛应用,低延迟实时推理已成为决定用户体验和系统可用性…

作者头像 李华
网站建设 2026/5/23 7:23:02

Qwen2.5-7B支持哪些语言?多语种输出测试与调用指南

Qwen2.5-7B支持哪些语言?多语种输出测试与调用指南 1. 技术背景与核心价值 1.1 Qwen2.5 系列模型的技术演进 Qwen2.5 是阿里云推出的最新一代大语言模型系列,覆盖从 0.5B 到 720B 参数的多个版本。其中 Qwen2.5-7B 作为中等规模模型,在性能…

作者头像 李华
网站建设 2026/5/14 17:42:32

Qwen2.5-7B部署踩坑记录:解决CUDA版本不兼容的实战方法

Qwen2.5-7B部署踩坑记录:解决CUDA版本不兼容的实战方法 1. 背景与问题引入 1.1 Qwen2.5-7B 模型简介 Qwen2.5 是阿里云最新发布的大型语言模型系列,覆盖从 0.5B 到 720B 参数的多个版本。其中 Qwen2.5-7B 是一个参数量为 76.1 亿、非嵌入参数达 65.3 亿…

作者头像 李华
网站建设 2026/5/13 14:46:49

FDCAN硬件架构解析:深度剖析其核心组成与信号流程

FDCAN硬件架构深度拆解:从模块设计到实战调优你有没有遇到过这样的场景?ADAS系统每秒要传输成百上千个目标检测框,传统CAN总线却卡在8字节一帧、1 Mbps的瓶颈上,数据还没发完,下一帧又来了——延迟飙升、丢包频发。这不…

作者头像 李华
网站建设 2026/5/1 2:29:40

判断一个链表是否为回文结构

求解代码 public boolean isPail (ListNode head) {// 空链表 或 单节点链表 一定是回文链表if (head null || head.next null) {return true;}ListNode fast head;ListNode slow head;// 找链表中点:快指针走2步,慢指针走1步while (fast ! null &am…

作者头像 李华
网站建设 2026/5/22 15:24:32

【单指针】删除有序链表中重复的元素-I

求解代码public ListNode deleteDuplicates (ListNode head) {// 空链表 或 单节点链表,无重复节点,直接返回if(head null || head.next null){return head;}// 定义游标指针,从链表头节点开始遍历ListNode cur head;// 遍历链表&#xff…

作者头像 李华