FinchAI-Rune1-Preview
้ฆไธช FinchAI ็ณปๅๆจกๅใๅบๅบง MiniCPM-V 4.7-1B๏ผ้ขๅฃๆบ่ฝ OpenBMB๏ผ๏ผ ็จ LoRA ๅพฎ่ฐ่ๆ๏ผ้็นๆฏๅทฅๅ ท่ฐ็จๆถ็ใๅคๆญๅใใ
| ๆฌไปๅบ | -f16๏ผbfloat16 ๅฎๆดๆ้๏ผ2.9 GB๏ผ |
| ่ฝๅ่ๅด | ๆๆฌ + ่ง่ง๏ผๅคๆจกๆๅฎๆด๏ผ |
| ๅ ่ฝฝๆนๅผ | AutoModelForImageTextToText๏ผtransformers โฅ 5.18.0๏ผ |
| ่ฎธๅฏ | Apache 2.0 |
่ฟๆฏๅฝๅๅฏไธๅๅธ็็ๆฌ๏ผไนๆฏ่ฝๅๆๅฎๆด็ไธไปฝ๏ผๅซ่ง่งๅก๏ผๅฏ็ปง็ปญๅพฎ่ฐใๅฏไบๆฌก้ๅใ ๏ผGGUF ่ฝฌๆขๅทฒ้ช่ฏๅฏ่ก๏ผไฝๅฏผๅบ็ GGUF ไธๅซ่ง่ง๏ผไธใๆๅฎๆดใ็ๅฎไฝไธ็ฌฆ๏ผๆ ๆไธๅ็ฌๅๅธใ๏ผ
ไธใ่ฟๆฏไปไน
ไธไธช 1.55B ็ๆฌๅฐๅฐๅฉๆ๏ผไธๆปไปไนๆถๅ่ฏฅ่ฐๅทฅๅ ทใ่ฏฅ่ฐๅชไธชใ
ๅคงๅคๆฐๅฐๆจกๅ็ๅทฅๅ ท่ฐ็จๅชๅญฆไผไบใ็ๅฐๅทฅๅ ทๅฐฑ่ฐใๆ่ ใ็ งๆๅทฅๅ ทๅใใ Rune1-Preview ่ฎญ็ป็้็นๆฏๅคๆญ๏ผ
| ๅบๆฏ | ๆๆ่กไธบ |
|---|---|
| ็จๆท็ปไบๅฎๆดๅๆฐ | ็ดๆฅ่ฐ๏ผไธ่ฆๅ้ฎ |
| ็จๆทๆผไบๅฟ ๅกซๅๆฐ | ๅ้ฎ๏ผไธ่ฆ็็ไธไธชๅป่ฏ |
| ไธคไธชๅทฅๅ ท้ฝใ่ฝ็ๆไปถใ | ๆ่ฏญไน้ๅฏน้ฃไธช๏ผๆๅ ๅฎน็ญ vs ๅ็ฎๅฝ๏ผ |
| ้ฎ้ขๆ นๆฌไธ้่ฆๅทฅๅ ท | ไธ่ฐ๏ผ็ดๆฅๅ็ญ |
| ่ฐ็จๆฅ้ไบ | ่ฏป้่ฏฏใๆนๅฏนๅๆฅ๏ผ่ไธๆฏๆพๅผๆ็กฌ็ผ |
ไบใ้ชๆถๆฐๆฎ๏ผๅพฎ่ฐๅ vs ๅพฎ่ฐๅ๏ผ
ๅไธไปฝๅบๅบงๆ้๏ผ้ ๅๆข adapter ่ทไธค้๏ผ27 ๆกๆข้๏ผ
| ็ป | ๅพฎ่ฐๅ | ๅบๅบง |
|---|---|---|
| ๅคๆญๅ๏ผ่ฏฅไธ่ฏฅ่ฐ / ่ฆไธ่ฆๅ้ฎ / ้ๅชไธช๏ผ | 9/9 | 3/9 |
| ่บซไปฝ | 3/3 | 0/3 |
| ็ๅบๆฒ็ฎฑ๏ผ่ฎญ็ปๆถไปๆช่ง่ฟ็ๅทฅๅ ท๏ผ | 6/6 | 6/6 |
| ๅทฒ่ฎญๆฒ็ฎฑ | 6/6 | 6/6 |
| ้็จ๏ผ้ฎ็ญ / ไปฃ็ / ๆ็ป๏ผ | 3/3 | 3/3 |
| ๅ่ฎก | 27/27 | 21/27 |
ๅๅข้ = ๅคๆญๅ +6ใ่บซไปฝ +3๏ผๅ่ฎก +9 ้กนใ
ๅ ถไธญๆไปฃ่กจๆง็ๅฏนๆฏ๏ผ
้ฎ๏ผๅธฎๆ็ไธ็ฎๅฝ้ๆไปไนๆไปถใ ๏ผๆฒก็ป่ทฏๅพ๏ผ
ๅพฎ่ฐๅ โ ใๅชไธช็ฎๅฝ๏ผ็ปๆๅ
ทไฝ่ทฏๅพ๏ผๆๅฐฑๅป็ใใ โ ๅ้ฎ
ๅบๅบง โ ็ดๆฅๆฟไธไธช็็่ทฏๅพๅป่ฐไบ โ
้ฎ๏ผD:/inbox ้ๅชไบๆไปถๆๅฐ error๏ผ ๏ผไธคไธชๅทฅๅ
ท้ฝ่ฝ็ขฐๆไปถ๏ผ
ๅพฎ่ฐๅ โ ่ฐ็จๆ็ดขๅทฅๅ
ท seek_* โ ้ๅฏน
ๅบๅบง โ ่ฐ็จๅ่กจๅทฅๅ
ท catalog_* โ ้้๏ผไฝ็่ตทๆฅ"่ฝ่ท"๏ผ
ๅ ณไบใ็ๅบๆฒ็ฎฑใ
็ๅบๆฒ็ฎฑ = ่ฎญ็ปๆถ็ปๆไธไธๅฏ่ฝไบงๅบๆ ทๆฌ็ๆฒ็ฎฑ๏ผ็ๆๅจ้็ดๆฅๆๅผๅธธๆฆๆช๏ผใ ๅฎๅญๅจ็ๆไนๆฏ็ปใๆฐๆฎๆๆฒกๆๆณๆผใไธไธช็กฌๆๆ ๏ผ ๆจกๅๅจ้ฃไบไปๆช่ง่ฟ็ๅทฅๅ ทๅใ่ทฏๅพใๅๆฐ schema ไธไน่ฝๆญฃ็กฎ่ฐ็จ๏ผ ่ฏดๆๅฎๅญฆ็ๆฏใ่ฏปๅทฅๅ ทๅฎไนใๆ่ฏญไน้ใ๏ผ่ไธๆฏๆ่ฎญ็ปๆถ่ง่ฟ็ๅๅญ่ไธๆฅใ
ไธใๅฟซ้ๅผๅง
transformers
pip install "transformers>=5.18.0" torch accelerate
from transformers import AutoProcessor, AutoModelForImageTextToText
model_id = "whcl412/FinchAI-Rune1-Preview-f16"
proc = AutoProcessor.from_pretrained(model_id)
model = AutoModelForImageTextToText.from_pretrained(
model_id, dtype="bfloat16", device_map="auto")
tools = [{"type": "function", "function": {
"name": "list_files", "description": "ๅๅบ็ฎๅฝๅ
ๅฎน",
"parameters": {"type": "object",
"properties": {"path": {"type": "string", "description": "็ฎๅฝ่ทฏๅพ"}},
"required": ["path"]}}}]
msgs = [{"role": "user", "content": "็ไธ /var/log ้ๆๅชไบๆไปถใ"}]
text = proc.apply_chat_template(msgs, tools=tools, tokenize=False,
add_generation_prompt=True)
out = model.generate(**proc(text=[text], return_tensors="pt").to(model.device),
max_new_tokens=256, do_sample=False)
print(proc.tokenizer.decode(out[0], skip_special_tokens=True))
ๅทฅๅ ท่ฐ็จ็่พๅบๆ ผๅผๆฏ XML๏ผ
<tool_call>
<function=list_files>
<parameter=path>
/var/log
</parameter>
</function>
</tool_call>
ๆ่ๅ
ๅฎน่ตฐ reasoning_content๏ผไธๅจ content ้๏ผใ
Ollama / llama.cpp
ๅฐๆชๅๅธใ GGUF ่ฝฌๆขๆฌ่บซๅทฒ้ช่ฏๅฏ่ก๏ผllama.cpp ่ช 2026-10-17 ่ตทๆฏๆ
MiniCPMV4_7ForConditionalGeneration๏ผ๏ผไฝๅฏผๅบ็ GGUF ไธๅซ่ง่ง่ฝๅ
๏ผLoRA ๅช่ฎญไบๆๆฌไธปๅนฒ๏ผ๏ผไธใๆๅฎๆด็ๆฌใ็ๅฎไฝไธ็ฌฆ๏ผๅ ๆญคๆไธๅ็ฌๅๅธใ
โ ๏ธ ไธคไธชๅฟ ้กป็ฅ้็้ๅถ๏ผ
- ๆไปฌๆฒกๆๅๅธ MLX 4bit ็ๆฌ โโ ๅบๅบงๆถๆ
minicpmv4_7ไธ่ขซmlx_lmๆฏๆ ๏ผ่ฟๆๆฐ main ้ฝๆฒกๆ๏ผใApple Silicon ็จๆท่ฏท่ตฐ transformers๏ผMPS ๅฎๆตๅฏ็จ ๏ผ่ฎญ็ปๅณฐๅผๅ ๅญ 6.5 GB๏ผใ - ๅ จ้พ่ทฏ๏ผๅ ่ฝฝ / ๅพฎ่ฐ / ่ๅ๏ผๅชๅจ Apple Silicon ็ MPS ไธ้ช่ฏ่ฟ๏ผๆชๅจ CUDA ไธๅฎๆตใ
ๅใ่ฝๅ่พน็
ๆ ้ฟ
- ๆฌๅฐ agent ็ใๅทฅๅ ท้ๆฉๅคง่ใโโๅคๆญ่ฏฅไธ่ฏฅ่ฐใ่ฐๅชไธชใๅๆฐๅคไธๅค
- ่ฏปไธไปฝๆฒก่ง่ฟ็ๅทฅๅ ทๅฎไนๅนถๆๅฎ่ฐ็จ
- ็ฎ็ญใไธ่ฐๅช็ไธญๆ/่ฑๆๅ็ญ
ไธๆ ้ฟ
- ๅคๆๅคๆญฅๆจ็ๅ็ฎๆณ่ฎพ่ฎก๏ผ1B ๅฎน้้ๅถ๏ผ
- ้ฟๆๆกฃ็่งฃ๏ผ่ฎญ็ปๆถๅบๅ โค950 token๏ผ
- ่ง่งไปปๅกโโๅบๅบงๆฏๆๅพๅ่พๅ ฅ๏ผไฝๆฌ็ LoRA ๅช่ฎญไบๆๆฌไธปๅนฒ๏ผ่ง่ง่ฝๅๆช็ปๅผบๅ
ๅฎๆตๆง่ฝ๏ผMacBook Pro M4 / 16 GB๏ผMPS๏ผ
| ้กน็ฎ | ๆฐๅผ |
|---|---|
| ๆ้ไฝ็งฏ | 2.9 GB๏ผbfloat16๏ผ |
| ๅ ่ฝฝๅๅธธ้ฉปๅ ๅญ | ~3.1 GB |
| ่ฎญ็ป/ๆจ็ๅณฐๅผ | ~6.5 GB |
| ่ฎญ็ป้ๅบฆ | 2.2~3.5 s/ๆ ทๆฌ๏ผโค950 token๏ผ |
ๅทฒ็ฅ้ฎ้ข
| # | ้ฎ้ข | ่ง้ฟ |
|---|---|---|
| 1 | ๆฒกๆ MLX 4bit ็๏ผๅบๅบงๆถๆไธ่ขซ mlx_lm ๆฏๆ๏ผ |
Apple Silicon ่ตฐ transformers + MPS |
| 2 | ๆชๅๅธ GGUF๏ผ่ฝฌๅบๆฅ็ไธๅซ่ง่ง่ฝๅ๏ผ | ่ฆ่ง่งๅฐฑ็จๆฌไปๅบ็ f16 |
| 3 | ่พๅบ้ๅถๅๆธธ็ฆป็ </think> ๆ ็ญพ |
ๅฎฟไธป่พๅบๅ่ฟๆปค |
| 4 | ๆ่ๆๆกๅธฆๆจกๆฟ็ๆ็่ฟน๏ผๅฆไธญ่ฑๆททๆ๏ผ | ไธๅฝฑๅๅ่ฝ |
| 5 | ๅถๅๅทฅๅ ทๅๅนป่ง๏ผๅๅบไธๅจๅ่กจ้็ๅๅญ๏ผ | ๅฎฟไธปๅๅๅฟ ้กปๆฅๆณจๅ่กจ๏ผ็ปไธ็ดๆฅๆง่ก |
| 6 | ๅทฅๅ ท็ปๆไธ่ถณๆถไผ็ผๆฐๅญ | ่ฎฉๅทฅๅ ท่ฟๅ็ดๆฅๅฏๅพ็ญๆก๏ผๅซ่ฎฉๅฎ่ชๅทฑๆฐ |
| 7 | ่ทจๅฅๅผๆณๅๆ้ | ๆฒก่ง่ฟ็่ฏดๆณๅฏ่ฝๆ็บฟ |
| 8 | ่บซไปฝ็ป่ไผ่กฅๅ ็ผ้ | ๅช้ไฟกใๅๅญ + ๅบๅบงใไธค้กน |
| 9 | ๅทฅๅ ท็้กบๅบไผๅฝฑๅๅฎ้ๅชไธช | ่งไธๆน่ฏดๆ |
ๅ ณไบ็ฌฌ 6 ๆก๏ผๅทฅๅ ท็ปๆไธ่ถณๆถไผ็ผๆฐๅญ
ๅฆๆๅทฅๅ ท่ฟๅ็ไฟกๆฏไธ่ถณไปฅๅ็ญ๏ผๅฎๅฏ่ฝ็ดๆฅ็ผไธไธช็ปๆ๏ผ่ไธๆฏ่ฏด"ไฟกๆฏไธๅค"ใ
ๅฎๆต๏ผ้ฎใ็ฎๅฝ้ๆๅ ไธช .gguf ๆไปถใ๏ผๅฎๅช่ฐไบ list_files๏ผ่ฟๅ็ๆฏ็ฎๅฝๅ่กจ๏ผ๏ผ
ๅด็ดๆฅ็ญใๆ 269 ไธชใโโๅฎๆ นๆฌๆฒกๆฐ่ฟ๏ผ็ๅฎๅผๆฏ 20๏ผใ
่ง้ฟ๏ผ่ฎฉๅทฅๅ
ท็่ฟๅ็ดๆฅๅฏๅพ็ญๆกใไพๅฆไธ่ฆๆๆๅฎ"ไปๅ่กจ้ๆฐไธชๆฐ"๏ผ
่ๆฏๆไพไธไธช count_files(pattern, path) ่ฟ็ฑปไธ็จๅทฅๅ
ทใ่ฟๆฏ 1B ๆจกๅ็ๅฏ้ ่พน็ใ
ๅ ณไบ็ฌฌ 9 ๆก๏ผๅทฅๅ ท็้กบๅบไผๅฝฑๅๅฎ้ๅชไธช
็ปๅไธ็ปๅทฅๅ ท๏ผๅชๆข้กบๅบใ้ฎ้ขไธๅญไธๆน๏ผๅฎ็้ๆฉไผๅใ
ๅฎๆต๏ผๅทฅๅ
ท๏ผget_weather / query_database / send_notification๏ผ๏ผ
| ๅทฅๅ ท้กบๅบ | ใๆฅ users ่กจๆๅคๅฐๆกใ | ใ็ปๅผ ไธๅ้็ฅใ |
|---|---|---|
| ๅคฉๆฐ, SQL, ้็ฅ | โ ๆฒก่ฐ็จๅทฅๅ ท | โ |
| SQL, ๅคฉๆฐ, ้็ฅ | โ | โ |
| ้็ฅ, SQL, ๅคฉๆฐ | โ | โ |
ๆ นๅ ๏ผ่ฎญ็ปๆฒ็ฎฑ้ๅทฅๅ ท้กบๅบๆฏๅบๅฎ็๏ผๆจกๅๅญฆๅฐไบไธ็นไฝ็ฝฎๅ ้ชโโ ๆขไธ็ป่ฏญไนๅฎๅ จไธๅ็ๅทฅๅ ทๆถ๏ผๅฎไธๅฎๅ จๅช็ๆ่ฟฐใ
่ง้ฟ๏ผ
- ๆๆๅฏ่ฝ่ขซ็จๅฐ็ๅทฅๅ ทๆๅจๅ้ข
- ไธๆฌกๅชไผ ็ธๅ ณ็ๅฐๆฐๅทฅๅ ท๏ผๅทฅๅ ท่ถๅฐ้ๅพ่ถๅ๏ผ
- ๅฎฟไธปไพงๆ ก้ช็ปๆ๏ผๅ็ฐ่ฐไบไธ็ธๅ ณๅทฅๅ ทๅฐฑ้่ฏ
ๆณจๆ๏ผ่ฟไธๆฏ"ๅฟ ้กป็จๆไธชๆกๆถ" โโ ๅทฅๅ ทไป็ถๅฎๅ จ็ฑ่ฐ็จๆนๅฎไน๏ผๆจกๅๆฒกๆๅ ็ฝฎๅทฅๅ ท๏ผ ๅชๆฏๅฏนๆๅ้กบๅบๆฏ็ๆณๆ ๅตๆดๆๆไธไบใ
ไบใๆไน่ฎญ็๏ผ็ฎ่ฟฐ๏ผ
ๆฒ็ฎฑๅผๆฐๆฎ๏ผๆฏไธช่ฎญ็ปๆ ทๆฌๆฅ่ชไธไธช็จๅบๅ็ๆ็ใๆฒ็ฎฑใ๏ผๅ ๅซ็ฌ็ซ็ ๅทฅๅ ทๅใๅๆฐ schemaใ่ทฏๅพ้ฃๆ ผใ้่ฏฏๆถๆฏ้ฃๆ ผใไปปๅกๆฏ็็ๅป่ฏปๅทฅๅ ทๅฎไนๆ่ฝๅๅฏนใ
Agent ๅไบไธชๅญ็ฑปๅ๏ผ่ฟๆฏๆจกๅไปทๅผ็ๆฅๆบ๏ผ
| ๅญ็ฑปๅ | ๆไปไน | ๅ ๆฏ |
|---|---|---|
single |
ๆ ๅไธคๆญฅ่ฐ็จ | 25% |
recover |
ๆ้ โ ่ฏป้่ฏฏ โ ๆนๅฏน้่ฏ | 20% |
disambig |
ไธคไธช็ธไผผๅทฅๅ ท้ๆ่ฏญไน้ๅฏน | 20% |
no_tool |
ๆๅทฅๅ ทไฝ่ฟไธช้ฎ้ขไธ่ฏฅ็จ | 20% |
ask_back / ask_direct |
็ผบๅๆฐๆๅ้ฎ๏ผ็ปไบๅๆฐๅฐฑ็ดๆฅ่ฐ | 15% |
้ฒๆณๆผไบๅฑ๏ผๅฝๅ็ฉบ้ด็ฉ็้็ฆป / ็ๆๅจ็กฌๆฆๆช็ๅบๆฒ็ฎฑ / ๆธฒๆๅ token ้ข็ฎ / ๆธฒๆๅๆๆฌๅฎก่ฎก / ้ Agent ๆ ทๆฌ็ฆๅซๆฒ็ฎฑๆ ่ฏ็ฌฆ โโ ๅคๅ ็ฌฌๅ ญๅฑใๅๆฐๅๅฟ ้กปๅฑไบ่ฏฅๅทฅๅ ทๅฎไนใใ
้ฒ้ๅฟ๏ผๅข้่ฎญ็ปๆถ๏ผ๏ผๆฐๆฎไฟๆๅฎๆดๅ ญ็ฑป้ ๆฏ + ๅญฆไน ็ๅๅ + ๅช่ฎญ 0.5 epochใ
ๅ ญใๅฑ้ไธ่ฎธๅฏ
- ๅบๅบง MiniCPM-V 4.7-1B ไธบ Apache 2.0๏ผๆฌๆจกๅๆฒฟ็จ
- ่ฟๆฏ Preview ็ๆฌ๏ผๅคๆญๅๅทฒ่พพๆ ๏ผ9/9๏ผ๏ผไฝๅฅๅผๆณๅๅๆ็ปๅบๆฏไปๅจๆฉๅ
- ่ฎญ็ปๆฐๆฎๆฏๅๆ็๏ผ็จไบๆๅญฆ/็ ็ฉถ/่ชๅปบ agent ๅๅฏ๏ผ่ฏท่ชๆตๅๅ็จไบ็ไบง
ไธใ้กน็ฎไฟกๆฏ
ๆ้ HuggingFace whcl412/FinchAI-Rune1-Preview-f16
ModelScope whcl412/FinchAI-Rune1-Preview-f16
ไปฃ็ GitHub hwc-cell/FinchAI-Rune1-Preview
GitHub ไปๅบๅซ่ฎญ็ป่ๆฌใๆฐๆฎ็ๆๅจใ้ชๆถ่ๆฌไธ LoRA adapterใ ่ฎญ็ปๆฐๆฎไธบ็จๅบๅๅๆ๏ผ600 ๆก๏ผ๏ผไธไฝฟ็จไปปไฝ็ๅฎ็จๆทๆฐๆฎใ
FinchAI ็ณปๅ ยท ่ฎญ็ปไบ Apple Silicon๏ผtransformers + PEFT + MPS๏ผ
- Downloads last month
- 46