গাইড
টোকেন ও কনটেক্সট: GPT একসাথে কতটা মনে রাখতে পারে
মডেলগুলো 'টোকেন' নামক ছোট ছোট অংশে লেখা পড়ে এবং একসাথে নির্দিষ্ট পরিমাণের বেশি মনে রাখতে পারে না। এটি বুঝলে স্পষ্ট হবে কেন দীর্ঘ চ্যাট পথ হারায় এবং কেন সংক্ষিপ্ত সারসংক্ষেপ দিয়ে নতুন চ্যাট শুরু করা বেশি কার্যকর।

দীর্ঘক্ষণ AI-এর সাথে চ্যাট করার সময় মডেলটি যদি হঠাৎ শুরুতে বলা কোনো বিষয় ভুলে যায়, তবে বুঝবেন আপনি কনটেক্সট লিমিটে পৌঁছে গেছেন। এটি কোনো বাগ নয় এবং মডেলটির অসাবধানতাও নয়। ল্যাঙ্গুয়েজ মডেলগুলো টোকেন নামের ছোট ছোট অংশে লেখা পড়ে এবং প্রতিবার উত্তর দেওয়ার সময় তারা কথোপকথনের নির্দিষ্ট পরিমাণ অংশই বিবেচনায় নিতে পারে। টোকেন এবং কনটেক্সট বুঝতে পারলে এমন আচরণের কারণ স্পষ্ট হয়ে যায়। তাছাড়া কিছু সহজ অভ্যাসের মাধ্যমে GBT Chat-এ দীর্ঘ চ্যাটেও সঠিক ফলাফল বজায় রাখা সম্ভব।
টোকেন আসলে কী
টোকেন হলো লেখার একটি অংশ বা চাঙ্ক: কখনও একটি সম্পূর্ণ ছোট শব্দ, কখনও বড় কোনো শব্দের অংশ, বিরামচিহ্ন কিংবা কয়েকটি অক্ষরসহ একটি স্পেস। যেমন, "Cat" একটি টোকেন। আবার "Unbelievably" শব্দটি কয়েকটি অংশে ভাগ হতে পারে। সাধারণ শব্দের তুলনায় সংখ্যা, কোড এবং অপরিচিত নামগুলো সাধারণত বেশি অংশে বিভক্ত হয়।
OpenAI-এর সাধারণ নিয়ম অনুযায়ী, ইংরেজিতে একটি টোকেন মানে প্রায় পৌনে একটি শব্দ (০.৭৫ ওয়ার্ড); অর্থাৎ একশটি টোকেনে থাকে প্রায় পঁচাত্তরটি শব্দ। অন্যান্য ভাষায় একই অর্থ প্রকাশ করতে প্রায়ই বেশি টোকেন লাগে—বিশেষ করে বড় যৌগিক শব্দ বা নন-ল্যাটিন লিপির ক্ষেত্রে। আমাদের চ্যাটে আপনাকে কখনোই টোকেন গুনতে হবে না, তবে এই ধারণাটি জানলে বোঝা যায় কেন লেখার দৈর্ঘ্য গুরুত্বপূর্ণ।
অক্ষর বা সম্পূর্ণ শব্দের বদলে এমন খণ্ডাংশ কেন ব্যবহার করা হয়? অক্ষর ধরে কাজ করলে প্রসেস করতে অনেক বেশি সময় লাগত; আবার সম্পূর্ণ শব্দ ব্যবহার করতে গেলে প্রতিটি নাম, টাইপো ও ভাষা কভার করার মতো অসম্ভব বড় শব্দভাণ্ডার প্রয়োজন হতো। টোকেন এই দুইয়ের মাঝামাঝি একটি সমাধান, আর সে কারণেই প্রতিটি আধুনিক GPT মডেল টোকেন নিয়ে কাজ করে।
কনটেক্সট উইন্ডো কী
কনটেক্সট উইন্ডো হলো লেখার সেই পরিমাণ, যা একটি মডেল উত্তর লেখার সময় একসঙ্গে বিবেচনায় নিতে পারে। এর মধ্যে মডেলটিকে দেখানো সবকিছুই অন্তর্ভুক্ত: সাইটের দেওয়া নির্দেশাবলী, আপনার চ্যাটের আগের বার্তাগুলো, আপনার নতুন বার্তা এবং মডেলটি যে উত্তর লিখছে সেটি। এটিকে মডেলের পড়ার টেবিল বা ডেস্কের মতো ভাবতে পারেন। ডেস্কে যা আছে তা ব্যবহার করা যায়; আর যা ডেস্কে ধরে না, তা আসলে সেখানে নেই বলেই গণ্য হয়।
আপনার কথোপকথন সম্পর্কে মডেলটির নিজস্ব কোনো অতিরিক্ত মেমোরি থাকে না। আপনি প্রতিবার বার্তা পাঠানোর সময় চ্যাটটি কথোপকথনের প্রাসঙ্গিক অংশটি আবার পাঠায় এবং মডেলটি নতুন করে তা পড়ে। এই কারণেই এটি একই চ্যাটের আগের বার্তাগুলো "মনে রাখতে" পারে, কিন্তু আপনার অন্যান্য চ্যাট সম্পর্কে কিছুই জানে না।
উইন্ডোর আকার কেমন এবং আমাদের চ্যাট কী পাঠায়
আমরা যে GPT-6 মডেলগুলো ব্যবহার করি, সেগুলোর জন্য OpenAI-এর ডকুমেন্টেশনে প্রায় ১০.৫ লাখ (১.০৫ মিলিয়ন) টোকেনের বিশাল কনটেক্সট উইন্ডোর উল্লেখ রয়েছে। তবে প্রতিটি বার্তার সাথে এত বড় উইন্ডো পাঠানো ধীরগতির এবং ব্যয়বহুল, আর একটি ফ্রি সাইটকে প্রতিটি রিকোয়েস্টের আকার ছোট রাখতে হয়। তাই GBT Chat মডেলটির কাছে কথোপকথনের সাম্প্রতিক অংশ পাঠায়—মোটামুটিভাবে লেখার শেষ কয়েক পৃষ্ঠা এবং আপনার নতুন বার্তাটি। দৈনন্দিন সাধারণ চ্যাটে এটি টেরই পাবেন না। তবে অনেক দীর্ঘ চ্যাটে একদম শুরুর বার্তাগুলো বাদ পড়ে যায়।
একই ধরনের সীমাবদ্ধতা উত্তরের ক্ষেত্রেও রয়েছে: উত্তরের একটি সর্বোচ্চ দৈর্ঘ্য থাকে। খুব দীর্ঘ কোনো উত্তর যদি মাঝপথে থেমে যায়, তবে "continue" লিখুন; মডেলটি ঠিক যেখান থেকে থেমেছিল সেখান থেকেই আবার লেখা শুরু করবে।
ছবির ক্ষেত্রেও এটি প্রযোজ্য। আপনি যখন + বাটন ব্যবহার করে ছবি যুক্ত করেন, তখন তা বার্তার সাথে পাঠানো হয় এবং উইন্ডোর কিছুটা অংশ দখল করে। একটি চ্যাটের সাম্প্রতিক কেবল দুটি ছবিই পাঠানো হয়; পুরোনো ছবিগুলোর জায়গায় একটি সংক্ষিপ্ত নোট থাকে যে সেখানে একটি ছবি ছিল। আপনি যদি আগের কোনো ছবি নিয়ে আবার প্রশ্ন করতে চান, তবে সেটি আবার যুক্ত করুন।
দীর্ঘ চ্যাটে প্রসঙ্গ কেন সরে যায়
কথোপকথন দীর্ঘ হওয়ার সাথে সাথে তিনটি বিষয় ঘটে:
- শুরুর তথ্যগুলো হারিয়ে যায়। দ্বিতীয় বার্তায় আপনি যে বাজেটের কথা বলেছিলেন, ত্রিশ নম্বর বার্তায় পৌঁছানোর পর তা হয়তো আর ডেস্কে থাকে না।
- পুরোনো ও নতুন নির্দেশের মধ্যে সংঘাত হয়। আপনি শুরুতে যদি "formal" এবং পরে "casual" লিখতে বলেন, তবে কোনটা মেনে চলতে হবে তা মডেলকে আন্দাজ করে নিতে হয়।
- ভুলের পরিমাণ বাড়তে থাকে। মডেলটি আগে কোনো ভুল করলে এবং আপনি তা সংশোধন না করলে, সেটি কথোপকথনে থেকে যায় এবং পরবর্তী উত্তরগুলোকে প্রভাবিত করতে পারে।
এর সমাধান দীর্ঘ চ্যাট এড়িয়ে চলা নয়, বরং তা সঠিকভাবে পরিচালনা করা। নিচের অভ্যাসগুলো গুরুত্বপূর্ণ তথ্যগুলোকে মডেলের নজরে রাখতে সাহায্য করবে।
দীর্ঘ চ্যাট ট্র্যাকে রাখার ভালো কিছু অভ্যাস
দুর্বল প্রম্পট: (৪০ নম্বর বার্তা) এবার ফাইনাল ভার্সনটি লিখে দাও। উন্নত প্রম্পট: কভার লেটারের ফাইনাল ভার্সনটি লেখো। মনে করিয়ে দিচ্ছি: পদটি একটি হাসপাতালের জুনিয়র ডেটা অ্যানালিস্ট, সর্বোচ্চ ২৫০ শব্দ, আমার SQL কোর্স এবং ভলান্টিয়ার কাজের কথা উল্লেখ করবে, ফ্রেন্ডলি কিন্তু প্রফেশনাল টোন।
উন্নত বার্তাটি মূল বিষয়গুলো এখনও মডেলের নজরে আছে—এমন ভরসায় না থেকে বরং গুরুত্বপূর্ণ তথ্যগুলো আবার মনে করিয়ে দেয়। এতে মাত্র কয়েক লাইন বেশি লিখতে হয়, কিন্তু কোনো বিভ্রান্তি থাকে না। অন্যান্য অভ্যাস:
- সারাংশ তৈরি করে নতুন করে শুরু করুন। বলুন "এখন পর্যন্ত আমরা যা যা চূড়ান্ত করেছি তা বুলেট পয়েন্টে সামারাইজ করো," তারপর একটি নতুন চ্যাট খুলে প্রথম বার্তা হিসেবে সেই সারাংশটি পেস্ট করুন। সামারি প্রম্পটটি খুলুন এবং যেকোনো দীর্ঘ চ্যাটে ব্যবহার করুন।
- এক চ্যাটে এক বিষয়। নতুন বিষয়ের জন্য নতুন চ্যাট শুরু করাই ভালো। সাইড ড্রয়ারে চ্যাটের নাম পরিবর্তন করে রাখুন, যাতে পরে সহজেই খুঁজে পান।
- ভুল চোখে পড়ার সাথে সাথে ঠিক করুন। ভুল বোঝাবুঝি হিস্ট্রিতে রেখে দেওয়ার চেয়ে আপনার বার্তার Edit অপশন ব্যবহার করে শুরুতেই তা সংশোধন করে নিন।
- বড় লেখাগুলো শেষের দিকে রাখুন। দীর্ঘ কোনো লেখা পেস্ট করার সময় সেটির নিচেও আপনার নির্দেশটি আবার লিখে দিন, যাতে রিকোয়েস্টটি একদম স্পষ্ট থাকে।
বড় লেখা নিয়ে কাজ করার নিয়ম
একটি বার্তায় কয়েক পৃষ্ঠার লেখা পাঠানো যায়; এর চেয়ে অনেক বড় লেখা পাঠালে তা খুব দীর্ঘ হিসেবে বাতিল হতে পারে। তাই বড় ডকুমেন্ট ভাগ করে নিন। একবারে একটি অংশ পাঠান এবং প্রতিটির সংক্ষিপ্ত সারাংশ চান, এরপর একটি নতুন চ্যাটে সেই সারাংশগুলো একত্র করে কাজ এগিয়ে নিন। একবারে পুরোটা পেস্ট করার চেয়ে এটি কিছুটা ধীরগতির হলেও প্রতিটি অংশ মডেলের পূর্ণ মনোযোগ পায়। ধাপে ধাপে সারাংশ করার জন্য summarizer বেশ কাজের, আর বাকি কাজের প্রম্পটের জন্য আমাদের পড়া ও গবেষণার গাইড দেখতে পারেন।
লেখা পেস্ট করার কিছু পরামর্শ:
- অংশগুলো স্পষ্টভাবে চিহ্নিত করুন: "PART 1 of 4", "TEXT A", "TEXT B"।
- অপ্রয়োজনীয় অংশ বাদ দিন, যেমন পেজ হেডার, ফুটনোট বা দীর্ঘ রেফারেন্স তালিকা, যাতে উইন্ডোর বড় অংশ মূল বিষয়ের কাজে লাগে।
- লেখা দেওয়ার আগেই মডেলকে বলে দিন কী খুঁজতে হবে, এবং লেখার পরেও তা আবার উল্লেখ করুন।
টোকেন, Think এবং গতি
আপনি যখন Think চাপেন, তখন GPT-6.1 Terra লেখার আগে যুক্তি বিশ্লেষণের জন্য কিছুটা সময় নেয়। এই যুক্তি বিশ্লেষণের কাজেও টোকেন খরচ হয়, তবে তা আপনি দেখতে পান না এবং এটি আপনার বার্তার লিমিট হিসেবে গণ্য হয় না; আপনি শুধু কয়েক সেকেন্ডের ছোট বিরতি দেখতে পাবেন, যা "Thought for" হিসেবে প্রদর্শিত হয়। ডিফল্ট GPT-6 Luna এই ধাপটি এড়িয়ে যায়, যার কারণে এটি দ্রুত উত্তর দেয়। কোনোটিই মডেলের চ্যাট দেখার সক্ষমতা পরিবর্তন করে না। বাস্তবে এ দুটির পার্থক্য জানতে Luna বনাম Terra তুলনা এবং GPT ভার্সন পরিচিতি পড়ে দেখতে পারেন।
সাধারণ জিজ্ঞাসা (FAQ)
বড় বার্তার জন্য কি আমার ফ্রি লিমিট বেশি খরচ হয়?
না। বার্তা যত বড়ই হোক না কেন, প্রতিটি বার্তা একবারই গোনা হয়। বার্তাটি অতিরিক্ত দীর্ঘ হলে তা গণনার বদলে বাতিল করা হয়, আর বড় চ্যাটগুলো উপরে বর্ণিত নিয়মে ট্রিম করা হয়। দৈনিক লিমিট সম্পর্কে বিস্তারিত জানতে FAQ দেখুন।
মডেলটি কি এক চ্যাটের কথা অন্য চ্যাটে মনে রাখে?
না। প্রতিটি চ্যাট একদম নতুনভাবে শুরু হয় এবং এক চ্যাটের তথ্য অন্য চ্যাটে থাকে না। আপনার হিস্ট্রি কেবল ব্রাউজারেই জমা থাকে যাতে পুরোনো চ্যাট পুনরায় খুলতে পারেন, তবে মডেলটি কেবল বর্তমান চ্যাটটিই দেখতে পায়।
চ্যাট কখনও কখনও শুরুতে দেওয়া নির্দেশ এড়িয়ে যায় কেন?
হয় নির্দেশটি মডেলের দেখার সীমার বাইরে চলে গেছে, নয়তো পরবর্তী কোনো বার্তা সেটিকে বদলে দিয়েছে বলে মনে হয়েছে। বর্তমান বার্তায় নির্দেশটি আবার মনে করিয়ে দিন।
অন্যান্য ভাষায় একটি টোকেনে কতটি শব্দ হয়?
এটি ভাষার ওপর নির্ভর করে। ইংরেজির ক্ষেত্রে সবচেয়ে কম টোকেন লাগে; অন্যান্য অনেক ভাষায় একই লেখার জন্য বেশি টোকেনের প্রয়োজন হয়। এর ফলে দীর্ঘ চ্যাট হয়তো সামান্য আগে ট্রিম হতে পারে, এছাড়া আমাদের চ্যাটে কাজ করায় এর কোনো প্রভাব পড়ে না।
বড় কনটেক্সট উইন্ডো কি সবসময়ই ভালো?
সবসময় নয়। উইন্ডো বিশাল হলেও মডেলগুলো এলোমেলো তথ্যের স্তূপের চেয়ে স্পষ্ট ও প্রাসঙ্গিক লেখার দিকে বেশি মনোযোগ দেয়। তাই দীর্ঘ ও বিশৃঙ্খল কনটেক্সটের তুলনায় সংক্ষিপ্ত ও গোছানো কনটেক্সট সাধারণত ভালো উত্তর দেয়।
আরও পড়ুন
আপনার প্রশ্নের তাৎক্ষণিক উত্তর
কোনো অ্যাকাউন্ট নেই, কার্ড লাগবে না, ডাউনলোডেরও ঝামেলা নেই। আপনি কী জানতে চান লিখুন এবং এক-দুই সেকেন্ডের মধ্যেই উত্তর দেখতে শুরু করুন।