โมเดล 27B ย่อเหลือ 7.89 GB ชนะตัวเต็ม 54 GB ได้จริงไหม? เจาะ Saluki 27B

โดย Nokka (นก-กา) | 11 ตุลาคม 2026

บทความนี้เขียนโดย AI (โมเดล deepseek-v4.1-flash ของผู้ให้บริการ ollama-cloud) ผ่าน Hermes Agent จาก Nous Research ตรวจสอบและเรียบเรียงโดย Nokka

ถ้าคุณเคยลองย่อโมเดลลงเหลือ 2 บิตแล้วเจอปัญหาเดิมทุกครั้ง นี่คือข่าวที่คุณน่าจะอยากอ่านให้จบ

ทีม Underdog จาก Conway Research ปล่อยไฟล์ขนาด 7.89 GB ที่ทำคะแนน 88 จาก 120 ในชุดทดสอบเรียกเครื่องมือของพวกเขาเอง ขณะที่โมเดลต้นทางตัวเต็มขนาด ราว 54 GB ทำได้ 84 [1][2] นั่นคือเล็กลง 6.84 เท่า แต่คะแนนกลับสูงกว่า 4 งาน

ตัวเลขนี้จริง แต่คำถามที่ควรถามไม่ได้อยู่ตรงนั้น

สรุปสั้น

Saluki 27B เป็นการย่อ Qwen3.8-27B ด้วยเทคนิค 2 บิตแบบผสม (IQ2 mix) จนเหลือ 7.89 GB ให้คะแนนเรียกเครื่องมือดีกว่าตัวเต็มบนชุดทดสอบของทีมผู้สร้างเอง ยังรันบน llama.cpp มาตรฐาน [10] ไม่ต้องคอมไพล์ fork และใช้สัญญาอนุญาต Apache 2.0

แต่มีสามอย่างที่ต้องรู้พร้อมกัน คือ ทีมผู้สร้างมีบิลด์ของตัวเองที่ทำได้ดีกว่า Saluki อีกตัวหนึ่ง, มีคู่แข่งที่ชนะ Saluki ในงานเรียกเครื่องมือพร้อมกันหลายคำสั่งแบบขาดลอย และคะแนนคณิตศาสตร์ระดับแข่งขันถอยลงราว 15 ถึง 18%

Saluki 27B คืออะไร

โมเดลต้นทางคือ Qwen3.8-27B โมเดลขนาด 27,000 ล้านพารามิเตอร์แบบ dense จากทีม Qwen สถาปัตยกรรมผสมระหว่าง linear attention แบบ gated delta net กับ full attention รองรับบริบท 262,144 โทเคน และใช้สัญญาอนุญาต Apache 2.0 [3]

Saluki ไม่ได้เทรนใหม่ ทีม Underdog รับช่วงต่อจาก ISTA-DASLab ที่ปล่อย GGUF แบบ 2 บิตด้วยวิธี GSQ และ RCO มาก่อน แล้วทำบิลด์ 2 บิตแบบผสมของตัวเองทับลงไป โดยเลือกข้อมูลคาลิเบรตที่รักษาพฤติกรรมการเรียกเครื่องมือไว้ [1][11]

จุดขายที่ทีมผู้สร้างเน้นคือ ไฟล์เดียว 7.89 GB รันบน llama.cpp มาตรฐาน ไม่ต้องมีบิลด์พิเศษ ไม่ต้องมี runtime แยก เปิดใช้ผ่าน OpenAI chat API บนพอร์ต 8080 ได้เลย [1][2]

สื่อสายเทคบางเจ้ารายงานว่าไฟล์นี้รันได้ใน Ollama, LM Studio และ vLLM ด้วย [11] ขณะที่หน้าของเจ้าของระบุถึง llama.cpp มาตรฐานเป็นหลัก [1][2] ผมจึงรายงานตามที่ทั้งสองฝ่ายเขียน ยังไม่สรุปว่าฝ่ายใดครบกว่า

ไฟล์โมเดลในรุ่น 1.0 มีระดับเดียวคือ Underdog-Saluki-27B-1.0-IQ2-mix.gguf ขนาด 7.89 GB (ยังมีไฟล์ vision add-on แยกอีกสองไฟล์สำหรับงานภาพ) มีโหมดคิดในหัวเปิดไว้เป็นค่าตั้งต้นและปิดได้ต่อคำขอ [1]

วิธีรันแบบเร็ว

huggingface-cli download ConwayResearch/Underdog-Saluki-27B-1.0 \ Underdog-Saluki-27B-1.0-IQ2-mix.gguf --local-dir . llama-server -m Underdog-Saluki-27B-1.0-IQ2-mix.gguf \ --jinja -ngl 99 -fa on -c 32768

ธง --jinja เปิดใช้เทมเพลตแชตของ Qwen3.8 ซึ่งจัดการทั้งการเรียกเครื่องมือและโหมดคิดในหัว ส่วนการตั้งค่าที่แนะนำคือ temperature 0.6, top_p 0.95, top_k 20 สำหรับงานทั่วไป และ temperature 0 สำหรับงานเรียกเครื่องมือที่ต้องการความเร็ว [1]

ตัวเลข 88 กับ 84 หมายถึงอะไร

ชุดทดสอบที่ทีมใช้ชื่อ Underdog Bench เป็นงาน 120 ชิ้นดึงจาก Berkeley Function Calling Leaderboard รุ่นที่ 4 แบ่งเป็นห้าประเภท ประเภทละ 24 งาน และ แช่แข็งชุดงานไว้ตั้งแต่วันที่ 27 กันยายน 2026 ก่อนจะเริ่มทดสอบโมเดลใด ๆ [1][2][8]

ผลที่ออกมาวางเรียงได้แบบนี้

บิลด์หลักของทีม Underdog (7.9 GB) ทำได้ 91 จาก 120
Saluki (7.89 GB) ทำได้ 88 จาก 120
Mia 2-bit (9.1 GB) ทำได้ 85
Qwen3.8-27B ตัวเต็ม (ราว 54 GB) ทำได้ 84
ISTA 2-bit (8.4 GB) ทำได้ 76
Ternary Bonsai 2 (5.95 GB) ทำได้ 70

ทุกตัวรันใน runtime ของตัวเอง ซึ่งเป็นกรณีที่ดีที่สุดของแต่ละไฟล์ ทีมผู้สร้างระบุว่า Saluki และบิลด์หลักของเขาทำได้ดีกว่าตัวเต็ม 76 ถึง 77 งานจาก 84 งานที่ตัวเต็มทำได้ [2]

จุดที่น่าสนใจกว่าคะแนนรวมคือ การเลือกเครื่องมือให้ถูกตัว ในห้าประเภทงานนั้น Saluki ทำได้ 47 จาก 48 ในสองประเภทแรก ซึ่งเป็นงานเลือกฟังก์ชันเดียวที่ถูกต้อง กับเลือกฟังก์ชันที่ถูกจากหลายตัวเลือก เทียบกับ Mia ที่ทำได้ 31 จาก 48 [2]

สามข้อที่ทีมผู้สร้างยอมรับเอง

ส่วนนี้คือส่วนที่ทำให้ผมเชื่อตัวเลขชุดนี้มากกว่าคะแนน benchmark ทั่วไป เพราะทีมเขียนไว้เองบนหน้าของพวกเขา

ข้อที่หนึ่ง: บิลด์หลักของตัวเองชนะ Saluki

บนหน้าทางการระบุชัดว่าบิลด์หลักของทีมทำได้ 91 ส่วน Saluki ทำได้ 88 ทั้งที่ขนาดใกล้กันมาก คือ 7.9 กับ 7.89 GB และอธิบายเหตุผลที่ปล่อย Saluki ว่าเป็นเพราะบิลด์หลัก เล่นเว็บได้แย่กว่า โดยตอบคำถามจากเว็บจริงได้ 48 จาก 150 ข้อ หรือ 32% ขณะที่ Saluki ตอบได้ 60 จาก 150 ข้อ หรือ 40% [2]

ข้อที่สอง: คู่แข่งชนะในงานเรียกเครื่องมือพร้อมกัน

งานที่ต้องเรียกหลายเครื่องมือในคำตอบเดียว Saluki ทำได้ 42 จาก 100 เมื่อตรวจแบบเข้มงวด Mia ทำได้ 69 จาก 100 ทีมเขียนไว้ตรง ๆ ว่า Mia เป็นผู้นำในหมวดนี้อย่างชัดเจน และบอกเหตุผลที่ยังเลือกปล่อย Saluki ว่าขนาดไฟล์เล็กกว่า คือ 7.89 GB เทียบกับ 9.1 GB [2]

ตัวเลขนี้เปลี่ยนเมื่อใช้ตัวตรวจที่ผ่อนปรนความผิดพลาดเรื่องรูปแบบ คือ Saluki ขยับจาก 42 เป็น 55 จาก 100 ขณะที่ Mia ขยับแค่จาก 69 เป็น 70 [2]

ข้อที่สาม: ทีมไม่เคลมว่าเก่งกว่าตัวเต็ม

ประโยคที่ผมคิดว่าสำคัญที่สุดในทั้งหน้าเผยแพร่คือ ทีมระบุว่า "เราไม่ได้อ้างว่ามันฉลาดกว่าโมเดลต้นฉบับ งาน 120 ชิ้นเป็นการทดสอบที่พอประมาณ และส่วนหนึ่งของความต่างนั้นน่าจะมาจากความแปรปรวนระหว่างรอบรัน" [2]

ในบทความเชิงเทคนิค ทีมยังระบุด้วยว่าคะแนนสาธารณะของโมเดลต้นฉบับ มาจาก harness คนละตัวกับที่ทีมใช้ และตัวเลข IFEval ที่ทีมรายงานนั้นนับหกพรอมป์ที่ทำไม่เสร็จเป็นความล้มเหลว ซึ่งเป็นมุมที่ระวังตัวกว่า [2]

ในมุมมองของผม การที่ทีมเขียนแบบนี้ทำให้ตัวเลข 88 กับ 84 มีน้ำหนักกว่าคะแนนที่ไม่มีคำกำกับเลย

จุดที่ถอยลง

การย่อลง 6.84 เท่าไม่ได้ฟรี ทีมผู้สร้างระบุข้อจำกัดไว้เองครบ

คณิตศาสตร์ระดับแข่งขัน ถอยลงชัดเจน คะแนน AIME 2025 อยู่ที่ 79.2 เทียบกับ 96.7 ของตัวเต็ม หรือราว 81.9% ส่วน AIME 2026 อยู่ที่ 80.0 เทียบกับ 94.6 หรือราว 84.6% ทีมสรุปว่าเก็บคะแนนคณิตศาสตร์ไว้ได้ 82 ถึง 85% [1]
งานปริศนาระดับตัวอักษร อย่างคำกลับหัว กฎสระ และการเรียงตามตัวอักษร เป็นประเภทที่อ่อนที่สุด [2]
งานเรียกเครื่องมือพร้อมกัน ตัวตรวจแบบเข้มงวดอ่านไม่ออก 23 งานจาก 100 คำตอบ ทีมระบุว่าส่วนใหญ่เป็นเรื่องรูปแบบ [1][2]
งานเขียนโค้ด Saluki แก้ปัญหาจาก SWE-bench Verified ได้ 30 จาก 50 ข้อ เทียบกับ 33 ของตัวเต็ม หรือเก็บไว้ 27 จาก 33 ข้อที่ตัวเต็มแก้ได้ [2]
โหมดคิดในหัว เมื่อเปิดอยู่ โมเดลมักใช้เวลาไตร่ตรองนานก่อนตอบ งานที่ต้องการความเร็วต้องปิด [1]
มาเป็นข้อความล้วน ไฟล์หลักรับข้อความเท่านั้น ต้องโหลดไฟล์ vision แยกอีก 629 ถึง 928 MB [1]

ตัวเลข MBPP+ อยู่ที่ 78.0 เทียบกับ 83.9 หรือราว 93% และ MuSR อยู่ที่ 67.5 เทียบกับ 79.6 หรือราว 84.8% ส่วน IFEval อยู่ที่ 93.5 เทียบกับ 91.5 ซึ่งสูงกว่า [1]

จุดต่างจริงคือ runtime ไม่ใช่คะแนน

ถ้าผมจะเลือกตัวเลขเดียวมาอธิบายว่าทำไม Saluki ถึงน่าสนใจ ผมจะไม่เลือก 88 หรือ 84 ผมจะเลือกคำว่า llama.cpp มาตรฐาน

คู่แข่งทั้งสามตัวมีเงื่อนไขเรื่อง runtime ต่างกันชัดเจน

Mia 2-bit อยู่ในรูปแบบ EXL3 ของ ExLlamaV3 จึงต้องใช้ exllamav3 รัน และ โหลดใน llama.cpp ไม่ได้เลย [2][6]
Ternary Bonsai 2 ของ PrismML น้ำหนักแบบ ternary 1.72 บิตต่อพารามิเตอร์ ต้องใช้ llama.cpp fork ของ PrismML เท่านั้น เอกสารระบุตรง ๆ ว่า llama.cpp มาตรฐานจะปฏิเสธไฟล์ PQ2_0 และ PTQ1_0 ว่าเป็นชนิดที่ไม่รู้จัก และถ้าโหลด Q2_0 จะโหลดผ่านโดยไม่เตือนแล้วให้ผลเป็นขยะ เพราะไม่มี runtime สำหรับการหมุน Hadamard [5][9]
Saluki โหลดใน llama.cpp มาตรฐานและแอปที่สร้างบนมัน [1][2]

ราคาที่จ่ายสำหรับความสะดวกนี้คือขนาด Bonsai เล็กกว่า คือ 5.95 GB เทียบกับ 7.89 GB หรือต่างกัน 1.33 เท่า และ Bonsai อ้างว่าเก็บความฉลาดไว้ 98.2% ของรุ่น FP16 จาก 14 benchmark เฉลี่ย 84.78 เทียบกับ IQ2_XXS แบบธรรมดาที่ 72.59 [5]

แต่บน Underdog Bench ของทีมผู้สร้างเอง คู่แข่งอย่าง Bonsai ทำได้ 70 จาก 120 เทียบกับ Saluki ที่ 88 ซึ่งเป็นช่องห่าง 18 งาน [2]

ตัวเลขสองชุดนี้มาจากคนละชุดทดสอบและคนละ harness การเอามาวางเทียบกันตรง ๆ จึงไม่ยุติธรรมกับทั้งสองฝ่าย

ตัวเลขที่ควรรู้ก่อนโหลด

เมื่อตรวจจากหน้าของเจ้าของโดยตรง ณ วันที่ 11 ตุลาคม 2026 (เวลาไทย) ข้อมูลอยู่แบบนี้

Saluki ดาวน์โหลด 59,191 ครั้งในเดือนล่าสุด กดหัวใจ 258 ครั้ง สร้างเมื่อ 8 ตุลาคม 2026 แก้ไขล่าสุด 10 ตุลาคม 2026 [1][7]
ISTA GSQ-RCO ซึ่งเป็นรากของ Saluki ดาวน์โหลด 1,484,655 ครั้ง กดหัวใจ 2,113 ครั้ง [4][7]
Ternary Bonsai 2 ดาวน์โหลด 4,457,576 ครั้ง กดหัวใจ 2,590 ครั้ง สร้างเมื่อ 16 กันยายน 2026 [5][7]
Mia 2.0bpw ซึ่งเป็นตัวที่ทีม Underdog ใช้เทียบ ดาวน์โหลด 719 ครั้ง กดหัวใจ 0 ครั้ง [6][7]

ตัวเลขนี้บอกความนิยม ไม่ได้บอกความสามารถ และทุกตัวขยับได้ทุกวัน

ตอนที่ AlphaSignal เขียนข่าวเมื่อ 10 ตุลาคม การ์ดของ Saluki ระบุว่ามีดาวน์โหลดมากกว่า 15,000 ครั้ง [11] แต่เมื่อผมดึง API ในอีกหนึ่งวันต่อมา ตัวเลขกลับเป็น 59,191 ครั้งในรอบ 30 วัน [7] ความต่างขนาดนี้บอกสองเรื่องพร้อมกัน คือความสนใจที่พุ่งขึ้นเร็ว และความจริงที่ว่าตัวเลขบนหัวการ์ดเป็นค่าที่ไม่นิ่ง

มุมของผม

Saluki น่าสนใจตรงที่มันไม่ได้ชนะเพราะตัวเลข 4 งาน แต่อยู่ที่ทีมผู้สร้าง เลือกวัดให้ตรงกับงานจริง งาน 120 ชิ้นที่แช่แข็งไว้ก่อนทดสอบ แบ่งเป็นห้าประเภทเท่ากัน และรันทุกตัวใน runtime ของตัวเอง คือวิธีที่ทำให้ตัวเลขเทียบกันได้สมเหตุสมผลที่สุดเท่าที่จะทำได้ในสถานการณ์ที่ทุกไฟล์มีข้อจำกัดต่างกัน

และเหตุผลที่ผมยังไม่รีบโหลดมาใช้ คือคำถามเดียวกับที่ทีมผู้สร้างถามตัวเอง นั่นคือ งาน 120 ชิ้นมันพอจะบอกอะไรได้จริงแค่ไหน

คำตอบอยู่ในประโยคของพวกเขาเอง ส่วนหนึ่งของความต่างน่าจะมาจากความแปรปรวนระหว่างรอบรัน ซึ่งหมายความว่าช่องห่าง 4 งานระหว่าง Saluki กับตัวเต็มอาจไม่มีนัยสำคัญทางสถิติเลย

ในมุมมองของผม วิธีอ่านที่ปลอดภัยกว่าคือดูที่ 76 จาก 84 ซึ่งเป็นจำนวนงานที่ Saluki แก้ได้จากงานที่ตัวเต็มแก้ได้ ไม่ใช่ดูที่ 88 กับ 84 เพราะตัวเลขหลังบอกว่าใครนำ แต่ตัวเลขแรกบอกว่ายังเหลืออะไรให้เสียไป

ข้อควรระวัง

ผมไม่ได้ดาวน์โหลดหรือรันโมเดลนี้เอง ข้อมูลทั้งหมดมาจากหน้าของเจ้าของทั้งสองหน้า หน้าของคู่แข่ง และ HF API ณ วันที่ 11 ตุลาคม 2026 (เวลาไทย)
คะแนนทั้งหมดเป็นผลการทดสอบของทีมผู้สร้างเอง ไม่มีบุคคลที่สามวัดซ้ำ และทีมเป็นฝ่ายที่ปล่อยโมเดล จึงมีส่วนได้ส่วนเสียโดยตรง
หน้าสองหน้าของเจ้าของขัดกันเรื่องภาพ หน้าการ์ดโมเดลระบุว่ามีไฟล์ vision add-on ขนาด 629 หรือ 928 MB ให้โหลด [1] แต่หน้าทางการของทีมระบุว่า "รุ่นนี้ไม่รับภาพ" [2] ผมรายงานตามที่ทั้งสองหน้าเขียน ยังไม่สรุปว่าอันไหนถูก
ผมเข้าถึงเธรดชุมชนไม่ได้ Reddit บล็อกการเข้าถึงจาก IP นี้ และเธรดบน Hacker News ยังไม่มีคอมเมนต์ ณ วันที่ตรวจ จึงยังไม่มีเสียงผู้ใช้จริงมาถ่วงดุลตัวเลขของผู้สร้าง
ตัวเลขดาวน์โหลดและหัวใจเป็นค่าที่ขยับได้ทุกวัน ใช้เป็นสัญญาณความสนใจ ไม่ใช่ตัวชี้วัดคุณภาพ
ขนาดไฟล์ไม่เท่ากับแรมที่ต้องใช้ ต้องบวก KV cache ตามความยาวบริบทที่ตั้งไว้ และการ์ดที่บอกว่าไฟล์นี้รันได้ยังไม่มีข้อมูลจากผู้ใช้จริง
ตัวเลข IFEval กับ AIME ในตารางเทียบกันข้าม harness ตัวเลขสาธารณะของตัวเต็มไม่ได้ระบุว่าเป็นแบบเข้มหรือผ่อน และบางตัวมาจากการ์ดของคู่แข่ง [2]

สรุป

Saluki 27B เป็นตัวอย่างของงานย่อโมเดลที่ทำการบ้านถูกจุด คือเลือกวัดงานที่ตรงกับที่โมเดลถูกนำไปใช้จริง และรายงานผลลัพธ์ที่แย่ของตัวเองไว้ด้วย ไม่ใช่เลือกแต่ตัวเลขที่ชนะ

คำถามที่คุณควรถามก่อนโหลดไม่ใช่ "มันชนะตัวเต็มจริงไหม" แต่คือ "งานของคุณเป็นการเลือกเครื่องมือให้ถูกตัว หรืองานที่ต้องใช้คณิตศาสตร์และการคิดหลายชั้น" เพราะสองอย่างนี้ได้คำตอบคนละแบบจากตัวเลขชุดเดียวกัน

ถ้าคุณรัน llama.cpp มาตรฐานอยู่แล้วและอยากได้โมเดลที่เรียกเครื่องมือได้แม่นบนเครื่อง 16 GB ลองโหลดมาเทียบกับตัวที่คุณใช้อยู่ดู แล้วเล่าให้ฟังว่าผลออกมาอย่างไร

REF

[1] Underdog / Conway Research, "Underdog Saluki 27B 1.0", Hugging Face, 8 ตุลาคม 2026 (แก้ไขล่าสุด 10 ตุลาคม 2026). https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0

[2] The Underdog team, "Meet Underdog Saluki 27B", Underdog, 7 ตุลาคม 2026. https://underdog.ai/saluki

[3] Qwen team, "Qwen3.8-27B", Hugging Face, 5 สิงหาคม 2026 (แก้ไขล่าสุด 14 สิงหาคม 2026). https://huggingface.co/Qwen/Qwen3.8-27B

[4] ISTA-DASLab, "Qwen3.8-27B · GSQ-RCO GGUFs", Hugging Face, 28 สิงหาคม 2026. https://huggingface.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF

[5] Prism ML, "Bonsai 2 27B (GGUF)", Hugging Face, 16 กันยายน 2026. https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf

[6] Mia-AiLab, "Qwen3.8-27B · EXL3 · 2.0bpw", Hugging Face, 1 กันยายน 2026. https://huggingface.co/Mia-AiLab/Qwen3.8-27B-EXL3-2.0bpw

[7] Hugging Face Models API (ตัวเลขดาวน์โหลดและหัวใจ), ตรวจเมื่อ 11 ตุลาคม 2026 (เวลาไทย). https://huggingface.co/api/models/ConwayResearch/Underdog-Saluki-27B-1.0

[8] Berkeley Function Calling Leaderboard (BFCL), Gorilla Project, UC Berkeley, เข้าถึงเมื่อ 11 ตุลาคม 2026. https://gorilla.cs.berkeley.edu/leaderboard.html

[9] PrismML-Eng, "llama.cpp fork สำหรับ ternary low-bit kernels", GitHub, เข้าถึงเมื่อ 11 ตุลาคม 2026. https://github.com/PrismML-Eng/llama.cpp

[10] ggml-org, "llama.cpp", GitHub, เข้าถึงเมื่อ 11 ตุลาคม 2026. https://github.com/ggml-org/llama.cpp

[11] AlphaSignal Newsroom, "Conway Research Squeezes Saluki's 27B Model Into 8 GB and Beats the Original", AlphaSignal, 10 ตุลาคม 2026. https://alphasignal.ai/news/conway-research-squeezes-saluki-s-27b-model-into-8-gb-and-beats-the-original

บทความนี้เขียนโดย AI (โมเดล deepseek-v4.1-flash) ผ่าน Hermes Agent จาก Nous Research ภายใต้การควบคุมและตรวจสอบคุณภาพโดยมนุษย์ ตัวเลขทุกตัวอ้างอิงจากหน้าของเจ้าของโมเดลและ API ที่ระบุไว้ในรายการอ้างอิง