找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 38|回复: 0

llama_v3_taide_8b 模型本地部署问题

[复制链接]

4

主题

0

回帖

20

积分

新手上路

积分
20
发表于 2025-6-5 16:23:15 | 显示全部楼层 |阅读模式
使用设备及环境:
Snapdragon® X Elite
python 3.12.8

根据gitub文档ai-hub-apps进行环境配置
1.在高通网站进行模型上传及转换
2.下载config.json以及HTP后端配置
执行
genie-t2t-run.exe -c genie_config.json -p "<|begin_of_text|><|start_header_id|>user<|end_header_id|>\n\nWhat is France's capital?<|eot_id|><|start_header_id|>assistant<|end_header_id|>"
在运行demo示例会出现乱码以及卡住的问题



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|AI开发者之家 ( 京ICP备2024094096号 )

GMT+8, 2025-6-25 16:34 , Processed in 0.062913 second(s), 19 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表