ข้ามไปยังเนื้อหา

คู่มือ

Token และ Context: ขีดจำกัดความจำของ GPT มีแค่ไหน

โมเดลประมวลผลข้อความเป็นชิ้นส่วนย่อยๆ ที่เรียกว่า Token และสามารถประมวลผลได้จำกัดในแต่ละครั้ง การเข้าใจจุดนี้จะช่วยอธิบายว่าทำไมแชตที่ยาวมากๆ ถึงเริ่มตอบหลงประเด็น และทำไมการเปิดแชตใหม่พร้อมสรุปสั้นๆ จึงให้ผลลัพธ์ที่ดีกว่า

อ่าน 16 นาทีอัปเดตเมื่อ

หากคุณเคยคุยกับ AI เป็นบทสนทนายาวๆ แล้วจู่ๆ โมเดลก็ลืมรายละเอียดที่คุณเคยบอกไว้ตั้งแต่ต้น นั่นแสดงว่าคุณได้เจอกับ "ขีดจำกัดบริบท" (Context Limit) เข้าแล้ว นี่ไม่ใช่ข้อผิดพลาดของระบบและไม่ใช่ว่าโมเดลไม่ใส่ใจ โมเดลภาษาประมวลผลข้อความเป็นชิ้นส่วนย่อยๆ ที่เรียกว่า "โทเค็น" (Token) และในแต่ละครั้งที่ตอบ โมเดลจะสามารถนำบริบทการสนทนามาพิจารณาได้ในปริมาณจำกัดเท่านั้น เมื่อคุณเข้าใจเรื่องโทเค็นและบริบทแล้ว พฤติกรรมแปลกๆ หลายอย่างจะดูสมเหตุสมผลขึ้นทันที และเพียงปรับเปลี่ยนวิธีใช้งานเล็กน้อย คุณก็สามารถคุยยาวๆ ใน GBT Chat ได้อย่างแม่นยำไม่มีสะดุด

โทเค็นคืออะไร

โทเค็นคือชิ้นส่วนของข้อความ บางครั้งอาจเป็นคำสั้นๆ ทั้งคำ บางครั้งเป็นเพียงส่วนหนึ่งของคำที่ยาวกว่า เครื่องหมายวรรคตอน หรือช่องว่างที่ติดกับตัวอักษรไม่กี่ตัว คำว่า "Cat" นับเป็นหนึ่งโทเค็น ส่วนคำยาวๆ อย่าง "Unbelievably" อาจถูกแบ่งออกเป็นหลายชิ้น ตัวเลข โค้ด และชื่อเฉพาะที่แปลกตา มักจะถูกแยกเป็นชิ้นย่อยๆ มากกว่าคำศัพท์ทั่วไป

หลักเกณฑ์คร่าวๆ ของ OpenAI สำหรับภาษาอังกฤษคือ หนึ่งโทเค็นจะมีความยาวประมาณ 3 ใน 4 ของคำ ดังนั้น 100 โทเค็นจึงเท่ากับประมาณ 75 คำ ส่วนภาษาอื่นๆ มักจะต้องใช้จำนวนโทเค็นมากกว่าสำหรับข้อความที่มีความหมายเท่ากัน โดยเฉพาะภาษาที่มีคำประสมยาวๆ หรือไม่ได้ใช้อักษรละติน (รวมถึงภาษาไทย) คุณไม่จำเป็นต้องมานั่งนับโทเค็นเองในการแช็ตกับเรา แต่แนวคิดนี้จะช่วยอธิบายว่าทำไมความยาวของข้อความจึงมีความสำคัญ

ทำไมต้องแบ่งเป็นชิ้นส่วนย่อยๆ แทนที่จะใช้ตัวอักษรหรือทั้งคำ? หากใช้ตัวอักษร ข้อความจะยาวเกินไปจนประมวลผลได้ช้ามาก แต่หากใช้ทั้งคำ โมเดลจะต้องมีคลังคำศัพท์ขนาดมหึมาจนแทบเป็นไปไม่ได้เพื่อรองรับทุกชื่อ คำพิมพ์ผิด และทุกภาษา โทเค็นจึงเป็นจุดกึ่งกลางที่ลงตัว และเป็นเหตุผลที่โมเดล GPT ยุคใหม่ทุกตัวทำงานด้วยระบบนี้

Context Window คืออะไร

Context Window (หน้าต่างบริบท) คือปริมาณข้อความทั้งหมดที่โมเดลสามารถนำมาพิจารณาพร้อมกันได้ในคราวเดียวขณะเขียนคำตอบ ซึ่งรวมถึงทุกสิ่งที่ระบบส่งให้โมเดลเห็น ได้แก่ คำสั่งตั้งต้นจากเว็บไซต์ ข้อความก่อนหน้าในการสนทนา ข้อความใหม่ของคุณ และคำตอบที่โมเดลกำลังพิมพ์อยู่ ลองจินตนาการว่ามันคือ "โต๊ะทำงาน" ของโมเดล สิ่งใดที่วางอยู่บนโต๊ะ โมเดลจะสามารถหยิบมาใช้ได้ ส่วนสิ่งที่ไม่พอวางบนโต๊ะ โมเดลก็จะไม่รับรู้ว่ามีอยู่

ตัวโมเดลเองไม่มีความจำอื่นใดเกี่ยวกับการสนทนาของคุณเลย ทุกครั้งที่คุณส่งข้อความ ระบบแช็ตจะส่งส่วนที่เกี่ยวข้องของบทสนทนากลับไปให้ใหม่ และโมเดลจะอ่านข้อความเหล่านั้นตั้งแต่ต้นเสมือนเพิ่งเห็นเป็นครั้งแรก นี่คือเหตุผลที่โมเดลสามารถ "จำ" ข้อความก่อนหน้าในห้องแช็ตเดิมได้ และเป็นเหตุผลว่าทำไมมันถึงไม่รู้อะไรเลยเกี่ยวกับห้องแช็ตอื่นๆ ของคุณ

หน้าต่างนี้ใหญ่แค่ไหน และระบบของเราส่งอะไรไปบ้าง

เอกสารของ OpenAI ระบุว่าโมเดล GPT-6 ที่เราใช้นั้นมี Context Window ขนาดใหญ่มากถึงประมาณ 1.05 ล้านโทเค็น แต่การส่งข้อมูลขนาดนั้นไปพร้อมกับทุกๆ ข้อความจะทำให้ระบบทำงานช้าและมีค่าใช้จ่ายสูงมาก ซึ่งเว็บไซต์ที่เปิดให้ใช้ฟรีจำเป็นต้องควบคุมขนาดของคำขอในแต่ละครั้ง ดังนั้น GBT Chat จึงเลือกส่งเฉพาะส่วนล่าสุดของบทสนทนาไปให้โมเดล ซึ่งยาวประมาณ 2-3 หน้าข้อความ รวมกับข้อความใหม่ของคุณ สำหรับการแช็ตทั่วไปในชีวิตประจำวัน คุณจะไม่รู้สึกถึงความแตกต่างเลย แต่หากคุยกันยาวมากๆ ข้อความแรกสุดจะค่อยๆ หลุดออกจากขอบเขตที่โมเดลมองเห็น

ในฝั่งของคำตอบก็มีข้อจำกัดที่คล้ายกัน นั่นคือคำตอบมีความยาวสูงสุดจำกัด หากคำตอบที่ยาวมากๆ หยุดชะงักไปกลางคัน เพียงพิมพ์ว่า "ต่อ" โมเดลก็จะเขียนต่อจากจุดที่ค้างไว้ให้ทันที

รูปภาพก็นับรวมด้วยเช่นกัน เมื่อคุณแนบรูปภาพด้วยปุ่ม + รูปนั้นจะถูกส่งไปพร้อมกับข้อความและใช้พื้นที่ส่วนหนึ่งของ Context Window ทั้งนี้ระบบจะส่งเฉพาะรูปภาพล่าสุด 2 รูปล่าสุดในการแช็ตเท่านั้น ส่วนรูปที่เก่ากว่าจะถูกแทนที่ด้วยข้อความสั้นๆ ระบุว่าเคยมีรูปภาพอยู่ตรงนี้ หากคุณต้องการถามถึงรูปภาพก่อนหน้านั้นอีกครั้ง แนะนำให้แนบรูปนั้นซ้ำอีกรอบ

ทำไมบทสนทนายาวๆ ถึงเริ่มออกทะเล

เมื่อการสนทนาเริ่มยาวขึ้น มักจะเกิด 3 สิ่งนี้ตามมา:

  • รายละเอียดช่วงแรกหลุดหายไป งบประมาณที่คุณเคยบอกไว้ในข้อความที่สอง อาจไม่ได้อยู่บนโต๊ะทำงานของโมเดลแล้วเมื่อคุยมาถึงข้อความที่สามสิบ
  • คำสั่งเก่าและใหม่ขัดแย้งกัน หากช่วงแรกคุณสั่งว่า "ขอแบบเป็นทางการ" แต่ตอนหลังบอกว่า "ขอแบบเป็นกันเอง" โมเดลจะต้องเดาว่าคำสั่งไหนยังมีผลอยู่
  • ข้อผิดพลาดสะสม หากโมเดลตอบผิดพลาดไปก่อนหน้านี้แล้วคุณไม่ได้แก้ไข ข้อผิดพลาดนั้นจะยังคงค้างอยู่ในประวัติการสนทนาและอาจส่งผลต่อคำตอบถัดๆ ไปได้

ทางแก้ไม่ใช่การหลีกเลี่ยงการคุยยาวๆ แต่คือการจัดการบริบทให้ดี เคล็ดลับด้านล่างนี้จะช่วยให้ข้อมูลสำคัญยังคงอยู่ในจุดที่โมเดลมองเห็นเสมอ

เทคนิคช่วยให้แช็ตยาวๆ ไม่หลุดประเด็น

แบบที่ไม่แนะนำ:
(ข้อความที่ 40) ทีนี้เขียนเวอร์ชันสมบูรณ์มาได้เลย

แบบที่ดีกว่า:
เขียนจดหมายสมัครงานเวอร์ชันสมบูรณ์ให้หน่อย ขอย้ำรายละเอียดสำคัญ:
ตำแหน่ง Junior Data Analyst ที่โรงพยาบาล, ความยาวไม่เกิน 250 คำ,
พูดถึงคอร์ส SQL และงานอาสาสมัครที่เคยทำด้วย, โทนการเขียนเป็นกันเองแต่ดูเป็นมืออาชีพ

ข้อความที่ดีกว่าจะช่วยย้ำข้อเท็จจริงสำคัญซ้ำอีกครั้ง แทนที่จะหวังว่าข้อมูลเหล่านั้นยังอยู่ในการมองเห็นของโมเดล การพิมพ์เพิ่มเพียงไม่กี่บรรทัดช่วยตัดปัญหาการเดาของโมเดลไปได้มาก และยังมีเทคนิคอื่นๆ ดังนี้:

  • สรุปแล้วเปิดแช็ตใหม่ พิมพ์บอกโมเดลว่า "ช่วยสรุปทุกข้อตกลงที่เราคุยกันมาทั้งหมดเป็นข้อๆ ให้หน่อย" จากนั้นเปิดแช็ตใหม่แล้ววางข้อความสรุปนั้นเป็นข้อความแรก เปิดพรอมต์สำหรับสรุปเนื้อหา เพื่อนำไปใช้กับแช็ตยาวๆ ได้ทันที
  • หนึ่งหัวข้อต่อหนึ่งแช็ต เมื่อจะเริ่มเรื่องใหม่ ควรเปิดแช็ตใหม่เสมอ และสามารถเปลี่ยนชื่อห้องแช็ตในแถบเมนูข้างๆ เพื่อให้ค้นหากลับมาดูภายหลังได้ง่ายขึ้น
  • แก้ไขข้อผิดพลาดทันทีที่พบ ใช้ปุ่ม แก้ไข (Edit) ที่ข้อความของคุณเพื่อแก้ไขความเข้าใจผิดตั้งแต่ต้นทาง ดีกว่าปล่อยทิ้งไว้ในประวัติการสนทนา
  • วางเนื้อหายาวๆ ไว้ช่วงท้าย หากต้องวางข้อความขนาดยาว ให้ใส่คำสั่งของคุณกำกับไว้ที่ด้านล่างสุดของข้อความด้วย เพื่อให้คำสั่งอยู่สดใหม่ใกล้กับจุดที่โมเดลจะเริ่มตอบ

การทำงานกับข้อความขนาดยาว

ข้อความเดี่ยวๆ หนึ่งข้อความสามารถจุเนื้อหาได้ประมาณ 2-3 หน้า หากวางข้อความยาวกว่านั้นมาก ระบบอาจปฏิเสธเนื่องจากยาวเกินไป ดังนั้นจึงควรแบ่งเอกสารขนาดใหญ่ออกเป็นส่วนๆ โดยส่งทีละส่วนและขอให้โมเดลช่วยสรุปสั้นๆ ให้ จากนั้นค่อยรวบรวมบทสรุปทั้งหมดไปเริ่มคุยต่อในแช็ตใหม่ แม้วิธีนี้จะช้ากว่าการวางข้อความยาวๆ ในคราวเดียว แต่จะช่วยให้โมเดลสามารถโฟกัสกับเนื้อหาทุกส่วนได้อย่างเต็มที่ คุณสามารถใช้เครื่องมือสรุปข้อความเพื่อช่วยย่อยเนื้อหาทีละส่วน และดูพรอมต์เพิ่มเติมได้ในคู่มือการอ่านและทำงานวิจัยด้วย AI

คำแนะนำสำหรับการวางข้อความยาวๆ:

  • ระบุส่วนต่างๆ ให้ชัดเจน เช่น "ส่วนที่ 1 จาก 4", "ข้อความชุด A", "ข้อความชุด B"
  • ตัดสิ่งที่ไม่จำเป็นออก เช่น หัวกระดาษ เชิงอรรถ หรือรายการอ้างอิงยาวๆ เพื่อประหยัดพื้นที่ใน Context Window ให้กับเนื้อหาสำคัญ
  • บอกโมเดลว่าต้องการให้มองหาอะไรไว้ที่ด้านบนก่อนเริ่มเนื้อหา และย้ำคำสั่งนั้นอีกครั้งที่ด้านล่างสุด
ใช้ Assistant สำหรับคำสั่งที่ต้องพิมพ์ซ้ำๆ หากคุณต้องเริ่มต้นทุกแช็ตด้วยการตั้งค่าเดิมๆ เสมอ เช่น สไตล์การเขียน อาชีพของคุณ หรือกลุ่มผู้อ่านเป้าหมาย แนะนำให้สร้าง Assistant ส่วนตัวพร้อมระบุคำสั่งเหล่านั้นไว้ล่วงหน้าได้ที่ Assistants คำสั่งเหล่านี้จะถูกส่งไปพร้อมกับทุกข้อความในแช็ตนั้นเสมอ จึงไม่มีวันหลุดหายไปเหมือนข้อความแรกๆ ของการสนทนา

โทเค็น, โหมด Think และความเร็ว

เมื่อคุณกดเปิด Think โมเดล GPT-6.1 Terra จะใช้เวลาคิดวิเคราะห์อย่างมีเหตุผลครู่หนึ่งก่อนลงมือเขียน กระบวนการคิดนี้ใช้โทเค็นเช่นกัน แต่ระบบจะไม่แสดงให้คุณเห็นและไม่นำมานับหักโควตาข้อความของคุณ คุณจะสังเกตเห็นเพียงการหยุดคิดสั้นๆ ซึ่งแสดงเป็น "Thought for" พร้อมจำนวนวินาที ส่วนโมเดลเริ่มต้นอย่าง GPT-6 Luna จะข้ามขั้นตอนนี้ไป จึงตอบกลับได้เร็วกว่า ทั้งสองตัวเลือกไม่ได้ส่งผลต่อขนาดของบทสนทนาที่โมเดลมองเห็น หากคุณสนใจความแตกต่างในการใช้งานจริง สามารถอ่านเพิ่มเติมได้ที่บทความเปรียบเทียบ Luna vs Terra และภาพรวมเวอร์ชันต่างๆ ของ GPT

คำถามที่พบบ่อย (FAQ)

ข้อความที่ยาวขึ้นจะทำให้เปลืองโควตาใช้งานฟรีมากขึ้นหรือไม่?

ไม่เลย แต่ละข้อความจะถูกนับเป็น 1 ครั้งเสมอไม่ว่าจะสั้นหรือยาว หากข้อความยาวเกินขีดจำกัดอย่างมาก ระบบจะปฏิเสธไม่ให้ส่งแทนที่จะนับโควตา และแช็ตที่ยาวมากๆ จะถูกตัดทอนบริบทตามที่อธิบายไว้ข้างต้น คุณสามารถดูรายละเอียดเกี่ยวกับขีดจำกัดรายวันได้ที่หน้า FAQ

โมเดลจะจำข้อมูลเกี่ยวกับตัวคุณข้ามห้องแช็ตได้หรือไม่?

ไม่ได้ แต่ละห้องแช็ตจะเริ่มต้นจากความว่างเปล่าเสมอ และไม่มีการแชร์ความทรงจำข้ามไปยังห้องอื่น ประวัติการสนทนาของคุณจะถูกบันทึกไว้ในเบราว์เซอร์ของคุณเท่านั้นเพื่อให้คุณกลับมาเปิดดูภายหลังได้ แต่ตัวโมเดลจะมองเห็นเฉพาะห้องแช็ตที่คุณกำลังใช้งานอยู่ ณ ขณะนั้นเท่านั้น

ทำไมบางครั้งระบบแช็ตถึงละเลยคำสั่งที่เคยให้ไว้ตั้งแต่ต้น?

อาจเป็นเพราะคำสั่งนั้นหลุดออกจากขอบเขตที่โมเดลสามารถมองเห็นได้แล้ว หรือมีข้อความหลังจากนั้นที่ดูเหมือนจะสั่งทับคำสั่งเดิม วิธีแก้คือให้พิมพ์คำสั่งนั้นซ้ำอีกครั้งในข้อความปัจจุบันของคุณ

สำหรับภาษาอื่นๆ หนึ่งโทเค็นเทียบเท่ากับกี่คำ?

จำนวนจะแตกต่างกันไป ภาษาอังกฤษเป็นหนึ่งในภาษาที่ใช้โทเค็นได้อย่างมีประสิทธิภาพสูงสุด ส่วนภาษาอื่นๆ อีกหลายภาษา (รวมถึงภาษาไทย) จะต้องใช้จำนวนโทเค็นมากกว่าสำหรับข้อความที่ยาวเท่ากัน ทั้งนี้ไม่ได้ส่งผลต่อสิ่งที่คุณทำได้ในระบบแช็ตของเรา นอกเสียจากว่าบทสนทนายาวๆ อาจถูกตัดทอนบริบทส่วนแรกออกเร็วกว่าเล็กน้อย

Context Window ที่ใหญ่กว่า แปลว่าดีกว่าเสมอไปใช่หรือไม่?

ไม่เสมอไป แม้จะมี Context Window ที่ใหญ่มาก แต่โมเดลมักจะให้ความสนใจกับข้อความที่กระชับและตรงประเด็นมากกว่าการโยนข้อมูลทุกอย่างลงไปปนกัน บริบทที่สั้นและจัดระเบียบมาเป็นอย่างดีมักจะให้คำตอบที่ยอดเยี่ยมกว่าบริบทที่ยาวแต่ไม่เป็นระเบียบ

ได้คำตอบทันที สำหรับทุกคำถามของคุณ

ไม่ต้องสมัครบัญชี ไม่ต้องใช้บัตร และไม่ต้องดาวน์โหลด เพียงพิมพ์สิ่งที่คุณอยากรู้ คำตอบแรกก็จะปรากฏขึ้นในไม่กี่วินาที

เริ่มแชทเลย