图片语义分析

Halcom

图片语义分析：
模型下载：openbmb/MiniCPM-V-4.6-gguf at main  https://hf-mirror.com/openbmb/MiniCPM-V-4.6-gguf/tree/main
MiniCPM-V：https://github.com/OpenBMB/MiniCPM-V
llama下载链接：https://github.com/ggml-org/llama.cpp
https://github.com/OpenSQZ/MiniC ... v4_6_llamacpp_zh.md

1. # Thinking 模型 - 不限制思考输出
   
2. ./llama-mtmd-cli \
   
3.     -m  /path/to/MiniCPM-V-4.6-Thinking/MiniCPM-V-4.6-Thinking-Q4_K_M.gguf \
   
4.     --mmproj /path/to/MiniCPM-V-4.6-Thinking/mmproj-MiniCPM-V-4.6-Thinking-F16.gguf \
   
5.     -c 8192 --temp 0.7 --top-p 0.8 --top-k 100 --repeat-penalty 1.05 \
   
6.     --image xx.jpg --jinja --reasoning-budget -1 -p "图中有什么？"
   
7. 
   
8. # Thinking 模型 - 跳过开头的 <think> 块（直接出答案）
   
9. ./llama-mtmd-cli \
   
10.     -m  /path/to/MiniCPM-V-4.6-Thinking/MiniCPM-V-4.6-Thinking-Q4_K_M.gguf \
    
11.     --mmproj /path/to/MiniCPM-V-4.6-Thinking/mmproj-MiniCPM-V-4.6-Thinking-F16.gguf \
    
12.     -c 8192 --temp 0.7 --top-p 0.8 --top-k 100 --repeat-penalty 1.05 \
    
13.     --image xx.jpg --jinja --reasoning-budget 0 -p "图中有什么？"

复制代码