Datasets:

KillerShoaib

/

RakibulAI-Utub-Bangla-Transcription

like 0

নন-প্রোগ্রামারদের জন্য ডাটা সাইন্স: ডাটা সাইন্সের বেসিক পাইথন

নন-প্রোগ্রামারদের জন্য ডাটা সাইন্স ডাটা সাইন্সের বেসিক পাইথন, ১ম পর্ব.mp3

আমাদের ক্লাস শুরু হওয়ার আগে আপনি বলতে পারেন যে আমার চুলটা চমৎকারভাবে কাটা হয়েছে। অবশ্যই এটা সাথেই আমার ওয়াইফ ও কেটে দিচ্ছেন। শি ইজ এ ব্যাংকার এট দা সেইম টাইম 10 ভুজা মানে সে অনেক কিছুই করতে পারে। ফিরে আসি আজকের ক্লাসে। আমাদের আজকের ক্লাস হচ্ছে গিয়ে নন প্রোগ্রামারদের জন্য পাইথন। আমি বলছি যে নন প্রোগ্রামারদের জন্য পাইথন ফর ডেটা সাইন্স এবং ডেটা এনালিস্ট। সো ডেটা সাইন্স নিয়ে যারা কাজ করবেন তাদের জন্য অফকোর্স শুরুতে আর একটা গডসেন প্রোগ্রামিং। মানে আমরা বলছি যে আর দিয়ে অনেক কিছুই চমৎকারভাবে করা যায়। বিশেষ করে যারা স্ট্যাটিস্টিক্যাল প্রোগ্রামিং করতে চাচ্ছেন বা স্ট্যাটিস্টিক্স নিয়ে বা স্ট্যাটিস্টিক্যাল এনালাইসিস করতে চাচ্ছেন তাদের জন্য আর কিন্তু চমৎকার। এজন্যই আমরা যারা আর দিয়ে শুরু করি তারা কিন্তু ডেটা সাইন্সটা খুব ভালো বোঝেন এবং বোঝার কারণে কিন্তু আমরা পরবর্তী সময়ে প্রোডাকশন এনভাইরনমেন্ট বা এরপরে যখন আমরা বড় কাজ করতে যাব তখন অবশ্যই আমরা পাইথনে সুইচ করব। তো সেখানে আমাদের কথাটা ছিল যে নন প্রোগ্রামার যারা আছেন তাদের জন্য ডেটা সাইন্স এবং সেই ডেটা সাইন্সের জন্য পাইথনের একটা রিকোয়ারমেন্ট ছিল অনেকদিন থেকে এবং সেটার জন্য আমরা একটা নতুন সিরিজ খুলতে যাচ্ছি। এই নতুন সিরিজটা হচ্ছে গিয়ে পাইথন দিয়েই নন প্রোগ্রামারদের জন্য ডেটা সাইন্স যাতে আমরা কাজ করতে পারি এবং ডেটা সাইন্সের পাশাপাশি ডেটা অ্যানালিটিক্স নিয়ে কাজ করতে পারি। এবং আর নিয়ে যে তর্ক-বিতর্ক আছে সেটাতে আমি বলব যে গুগল ডেটা অ্যানালিটিক্স সার্টিফিকেশন কোর্সেও কিন্তু তারা আর দিয়ে শুরু করেছে। কারণ এটা দিয়ে অ্যানালিটিক্স বা এনালাইসিস বা ডেটা সাইন্সটা শুরু করা যায় ভালো। আর এই কারণে কিন্তু আমার প্রথম বইটা কিন্তু আমি শুরু করেছিলাম আর দিয়ে। মানে আমাদের টাইটানিক প্রোগ্রামটা কিন্তু শুরু করেছি আর দিয়ে। এটার এটা আসলে দ্বিতীয় সংস্করণ। প্রথম সংস্করণটাতে কিন্তু শুধু আর দিয়ে ছিল। বাট দ্বিতীয় সংস্করণে আমরা কি করেছিলাম? আমরা আর এবং পাইথন যোগ করেছিলাম। এবং তার পাশাপাশি আমি বলতে পারি যে একদম পাইথন না জেনেও শুরু করা যায় এই বইটা। যেটাকে আমরা বলছি শূন্য থেকে পাইথন মেশিন লার্নিং। এবং এই বইটাতে আসলে আমরা বলেছিলাম যে পাইথন দিয়ে কিভাবে মেশিন লার্নিং শুরু করা যায়। একদম বেসিক লেভেলের বই। এবং যারা একটু ডিপ লার্নিং বা আরো ভেতরে ঢুকতে চান তাদের জন্য হচ্ছে গিয়ে এই হাতে কলমে পাইথন ডিপ লার্নিং। এই হাতে কলমে পাইথন ডিপ লার্নিংটা এই বইটা বেশ মোটা। তো আমি মনে করছি যে এটা আমি প্রথমে 700 পেইজ ম্যানুস্ক্রিপ্ট আমি তৈরি করেছিলাম। বাট পরে এটা আসলে আমরা কমিয়ে নিয়ে এসেছি। সো আমার কথা হচ্ছে যে আমরা অফকোর্স পাইথন দিয়ে শুরু করব। তো পাইথন দিয়ে শুরু করার আগে নন প্রোগ্রামার যারা আছেন তাদেরকে যাতে ডেটা সাইন্সের মধ্যে নিয়ে যাওয়া যায় ঠিকমতো সেই সেই সেই জায়গাতেই আমি আসলে কাজ করব। এবং সেখানে বেশ কয়েকটা জিনিস নিয়ে আমরা যদি আলাপ করি যে যারা নন প্রোগ্রামার আছেন তাদের জন্য এই ডেটা সাইন্স প্রোগ্রামকে যদি আমি আগা আগায়ে নিতে চাই বা এগিয়ে নিতে চাই তাহলে তার একটা রোডম্যাপ লাগবে। যে রোডম্যাপটা কিন্তু আমার অলরেডি সাইটে আছে। এবং তার পাশাপাশি আমরা বলছি যে যারা ডেটা এনালিস্ট এবং যারা ডেটা সাইন্সে হাত পাকাতে চাচ্ছেন ভবিষ্যতে তাদের জন্য পাইথন একটা বড় রিসোর্স হতে পারে এবং সেজন্যই কিন্তু আমরা এখানে পাইথন ফুল পাইথন না। বেসিক পাইথন এবং যেই বেসিক পাইথনটা দিয়ে আমরা কি কি ফিচার প্রয়োজন? মানে আমার ডেটা সাইন্টিস্ট হওয়ার জন্য বা ডেটা এনালিস্ট হওয়ার জন্য পাইথনের কতটুকু ফিচার না হলেই নয় আমরা সেটা কাভার করব। যাতে আমাদের এই ব্যাপারটা খুব সহজ হয়। আপনি যদি দেখেন আমার এই শূন্য থেকে পাইথন মেশিন লার্নিং বইটাতে এটা শুরুতেই কিন্তু আমরা একটা জিনিস দেখিয়েছিলাম যে আসলে ডেটা কিভাবে মানে আমাদের ডেটা কিভাবে পাইথন হ্যান্ডেল করতে পারবে বা আমরা বলছি যে কিভাবে কম্পিউটারে ডেটা থাকে এবং সেখানে আমরা দেখছি বিভিন্ন ভেক্টর, বিভিন্ন ম্যাট্রিক্স বা আমরা বলতে পারি যে পাইথনের লিস্ট বা আমাদের যে পাইথনের যে অবজেক্টগুলো আছে সেটা আমরা নিয়ে কিভাবে কাজ করব সেটার একটা ধারণা ছিল বইটাতে। বাট আমার কাছে মনে হচ্ছে যে ওর পরেও পাইথন নিয়ে একটু ডিপ ডাইভিং দরকার। এবং সেই জন্যই কিন্তু আমরা আসলে বলছি যে কম্পিউটারে ডেটা কিভাবে থাকে সেটার যদি আমরা ঠিকমতো বুঝতে পারি যে যেমন আমরা টাইটানিক প্রজেক্টে কলাম, রো ছিল এবং কলাম এবং রোতে কিভাবে ডেটাগুলো ছিল এবং সেই ডেটা গুলোকে আমরা কিভাবে এক্সেস করছি। আমি বলছি যে পাইথন থেকে কিভাবে এটা এক্সেস করছি। ইন্ডেক্স কোথায়? লিস্ট কোথায়? বা আমরা সেটাকে যদি টুপল বলি। মানে এরকম অনেক জিনিস আছে যেটা আমি এখনই কথা বলবো না। বাট আমি বলছি যে এই জিনিসগুলো আমরা পাইথন দিয়ে করার চেষ্টা করব। এবং পাইথন দিয়ে কিভাবে ডেটা সাইন্স নিয়ে কাজ করা যায় সেটা নিয়ে আমরা একটু ডিপ ডাইভিং দিব। এবং আরেকটা জিনিস বলবো যে লিঙ্কডিনে যেহেতু জব সার্চের মধ্যে পাইথনের একটা রিকোয়ারমেন্ট বাড়ছে সেজন্য কিন্তু আমরা এই ডেটা সাইন্সের জন্য পাইথন যতটুকু লাগে আমরা ততটুকু পাইথন আমরা কাভার করব। এখানে যদি প্রি রিকুইজিটের ব্যাপার বলি যে আমি গুগল ডেটা অ্যানালিটিক্স সার্টিফিকেশন কোর্সের মতো এখানেও কিন্তু প্রি রিকুইজিট কিছুই নেই। মানে আপনারা যে কেউ শুরু করতে পারেন। নন প্রোগ্রামারদের যেহেতু যেহেতু এটা নন প্রোগ্রামারদের জন্য সেহেতু এখানে কিন্তু কারো এক্সট্রা কোন কিছু আগে থেকে জানার প্রয়োজন নেই। এবং সেটাই আমি আস্তে আস্তে আপনাদেরকে ভেঙে ভেঙে দেখাবো। এর মধ্যে আরেকটা জিনিস আমরা বলছি যে আমাদের এই পাইথন কেন ব্যবহার করব বা পাইথন কেন শিখবো সেটার ব্যাপারে আপনাদেরকে আমি মনে করি যে এই ব্যাপারটা আলাপ করব না। কারণ আপনারা জেনেই এসেছেন যে আপনারা কেন পাইথন শিখতে চান এবং সেই জন্য কিন্তু আমরা এই লাইনে আমরা হাঁটছি। আমি যেহেতু মিলিটারি থেকে এসেছি এবং আমি জানি যে ট্রেনিংগুলো বা বুট ক্যাম্পগুলো কিভাবে হয় বা এই জিনিসগুলোকে কিভাবে খুব সহজে শেখানো যায়। সেখানে আমি মনে করি যে আমাদের ক্রল, ওয়াক, রান এই অ্যাপ্রোচে আমরা শিখবো। মানে আমরা প্রথমে ক্রলিং করব। ক্রলিং করে করে বেসিক জিনিসগুলো শিখবো। তারপর ক্রল করে করে আমরা যখন একটু আমাদের পাটা ঠিক হবে তখন আমরা দাঁড়াবো। দাঁড়িয়ে আমরা হাঁটবো। দেন উই বিকাম এ কাস্টম উইথ ওয়াকিং। দেন উই উইল স্টার্ট রানিং। মানে আমরা তারপরে আমরা দৌড়ানোর চেষ্টা করব। আমরা শুরুতেই যেটা হয় যে আমাদের এই ধরনের লার্নিং অ্যাপ্রোচে আমরা শুরুতেই দৌড়াতে দৌড়াতে চাই। বেসিক ফাউন্ডেশন না ঠিক করে আমরা যখন দৌড়াতে চাই তখন কিন্তু আমরা হোঁচট খাই। আর সেই কারণে কিন্তু ফার্স্ট প্রিন্সিপাল থিংকিং যেটা এখন এলন মাস্ক এবং অন্যান্য অনেকে বলছেন যে কেন ফার্স্ট প্রিন্সিপাল থিংকিং এটা খুব জরুরি। কারণ আমাদের ফাউন্ডেশন জিনিসগুলো মানে ফাউন্ডেশন জিনিসগুলো যদি আমাদের ঠিকমতো ক্লিয়ার না হয়। এই ফাউন্ডেশন জিনিসপত্র না জানার কারণে বা ঠিকমতো না জানার কারণে আমরা কিন্তু নেক্সট স্টেজে যেতে পারছি না। আর সেই কারণে কিন্তু আমাদের পাইথনের বেসিকটা আমরা স্ট্রং করে আমরা হাঁটবো। তারপরে আমরা দৌড়াবো। এর পাশাপাশি একটা জিনিস হচ্ছে যে পাইথনের মানে বেসিক যে অবজেক্টগুলো আছে যে অবজেক্টগুলোকে আমরা বলি হচ্ছে এক্সপ্রেশন, ভেরিয়েবল বা তার পাশাপাশি ফাংশন। এটা হচ্ছে একদম বেসিক লেভেলে যে আমরা আসলে পাইথনটা কি? পাইথনটা হচ্ছে গিয়ে একটা অবজেক্ট ওরিয়েন্টেড প্রোগ্রামিং। এবং অবজেক্ট ওরিয়েন্টেড প্রোগ্রামিং হওয়ার কারণে এই অবজেক্টটা কিন্তু একটা কালেকশন অফ ডেটা। মানে যেটাকে আমরা বলছি ভেরিয়েবল। মানে এই অবজেক্ট হচ্ছে গিয়ে কালেকশন অফ ডেটা। যেটা নিয়ে আমরা আসলে ম্যানিপুলেট করব। এবং এই ডেটার উপরে যে মেথডগুলো কাজ করা হবে সেই মেথডগুলো নিয়ে কিন্তু আমরা সামনে কাজ করব। এবং তার পাশাপাশি আরেকটা হচ্ছে যে এটা কাইন্ড অফ লাইক একটার ভিতরে আরেকটা। মানে অবজেক্ট ওরিয়েন্টেড প্রোগ্রাম তো একটার ভিতরে আরেকটা নিয়ে আমরা কাজ করে দেখাবো। তো সেই জন্য আমরা শুরুতে আমরা বেসিক অবজেক্ট নিয়ে আলাপ করব। এবং বেসিক অবজেক্টের মধ্যে আমরা এক্সপ্রেশন, ভেরিয়েবল এবং ফাংশন নিয়ে আলাপ করব। এবং তার পাশাপাশি এগুলো আসলে কি? এগুলোর টাইপ কি? সেটাও আমাদের একটু জানা জরুরি। এরপরে আসলে আমরা যেটা করব সেটা হচ্ছে যে আমাদের এই পাইথনের লুপ। মানে আসলে আমাকে একটা আইটারেশন মানে আমি একটা কাজ বেশ কয়েকবার করতে হবে। তারপর একটা কন্ট্রোল স্টেটমেন্ট থাকবে। মানে কখন আমাকে বের হয়ে যেতে হবে। তো এই যে লুপিং বা এই যে ইফ লুপ বা এই যে হোয়াইল লুপ মানে এই ব্যাপারগুলো কিন্তু আমরা তখন বুঝবো যে আমরা আসলে পাইথনের যখন একটু ভেতরে যাব। এবং সেখানে কিন্তু আমরা আসলে দেখব যে কিভাবে একটা বড় জিনিস আমরা অটোমেট করতে পারি। এবং সেখানে কিন্তু লুপিং এর একটা ভালো কাজ আছে। আরেকটা জিনিস হচ্ছে গিয়ে ফাংশন। মানে আমরা এই একই জিনিস আমাদের বিল্টইন পাইথন ফাংশন আছে। তো আমাদের এই বিল্টইন ফাংশনগুলো আমাকে নতুন করে লিখতে হবে না। তার মানে হচ্ছে গিয়ে ওই বিল্টইন ফাংশনগুলো আমরা এই ডেটা সাইন্সের জন্য হোক আর অন্যান্য কাজের জন্য হোক আমরা এই বিল্টইন ফাংশনগুলো ব্যবহার করব। যাতে আমাদের এই পাইথনের আর নতুন করে কোন কিছু না করতে হয়। তার পাশাপাশি হচ্ছে গিয়ে আমরা ইউজার ডিফাইন্ড ফাংশন। মানে আমরা নিজেরা কিছু ফাংশন তৈরি করব। যেটাকে আমার রিউজেবল। মানে আমি নতুন করে আবার ব্যবহার করব। যাতে ওই ফাংশনগুলো আমি আবার মাঝে মাঝে কিন্তু ডেকে ওকে দিয়ে কাজ করাতে পারি। তার মানে হচ্ছে গিয়ে আমার বিল্টইন ফাংশন, ইউজার ডিফাইন্ড ফাংশন এগুলো নিয়ে আমরা সামনে দেখাবো। এবং সেটার কিন্তু কিছু কিছু জিনিস কিন্তু আমরা এই বইটাতেও আমরা দেখিয়েছি। আর তার পাশাপাশি আমরা এই বইটাতে তো পুরোদমে দেখিয়েছি যে কিভাবে এই ফাংশনগুলো ব্যবহার করতে হয়। এখন এর পাশাপাশি আমরা আরেকটা জিনিস হচ্ছে যে আমরা তো এগুলো নিয়ে কাজ করব। কিন্তু আমরা আবার একটা ক্লাস তৈরি করব। মানে এই নিজস্ব কিছু ক্লাস যাতে সেগুলো নিয়ে আমরা কাজ করতে পারি। এবং তার পাশাপাশি আরেকটা হচ্ছে গিয়ে বিভিন্ন মডিউল তৈরি করা আছে পাইথনের জন্য। সেই বিল্টইন মডিউলগুলোকে আমরা ইম্পোর্ট করব। এবং ইম্পোর্ট করে কিন্তু আমরা সেই জিনিস নিয়ে আমরা কাজ করব। এবং আমরা কিন্তু এই বইটাতেও কিন্তু প্রচুর মডিউল দেখিয়েছি যে এই মডিউলগুলো কিভাবে ইম্পোর্ট করতে হয়। এবং ইম্পোর্ট ওই মডিউলগুলো কিন্তু আমরা কাজ করব। তো এই বইটা এবং এই বইটা। মানে আমার কথা হচ্ছে যে এই দুইটা বইয়ের পাশাপাশি কেন আমি আরেকটা বই বা আরেকটা সিরিজ কেন আমি কাজ করতে যাচ্ছি? সেটা হচ্ছে যে টু গেট এ বিগার আন্ডারস্ট্যান্ডিং। মানে টু গেট দা বিগ পিকচার। আমরা এই পাইথনের ভেতরে যখন আরেকটু ঢুকবো তখন কিন্তু আমরা বুঝতে পারবো যে এই জিনিসটা আসলে আরো অন্যান্য লেভেলে আরো অনেক বড় লেভেলে আমরা আসলে কাজ করতে পারি। এবং ফাইনালি আমরা যেটা করব যে আমরা পাইথনের আরো অন্যান্য অনেক হেল্পার লাইব্রেরি আছে। যেমন নামপাই আছে। যেটা হচ্ছে গিয়ে সাইন্টিফিক লাইব্রেরিতে যেখানে আসলে আমরা প্রচুর ডেটা ম্যানিপুলেশন করতে পারি। তারপর হচ্ছে গিয়ে আমাদের ডেটা ফ্রেম নিয়ে যখন কাজ করব। যেটা আপনি দেখেছেন ডেটা ফ্রেম আর এ। আমরা যখন ডেটা ফ্রেম নিয়ে কাজ করব সেই ডেটা ফ্রেম নিয়ে ম্যানিপুলেশন সেখানে কিন্তু পান্ডাস লাইব্রেরি আছে। এই যে লাইব্রেরিগুলো এবং পাশাপাশি ডেটা ভিজুয়ালাইজেশনের জন্য ম্যাটপ্লটলিভ বা এর পাশাপাশি সিবর্ন। মানে অন্যান্য লাইব্রেরি ব্যবহার করব যাতে এই ব্যাপারটা আমাদের জন্য সহজ হয়। তো আমি আবারও বলতে চাচ্ছি যে আমাদের এই সিরিজটা করার কারণ হচ্ছে একটাই যে নন প্রোগ্রামার যারা আছেন তাদেরকে একটা বেসিক আন্ডারস্ট্যান্ডিং যাতে উনারা এই ব্যাপারটা ভয় না পান বা আমরা যারা এটা নিয়ে কাজ করি তারা যাতে এই ব্যাপার টা আরো ক্লিয়ারলি বুঝতে পারি। কারণ অবশ্যই আমরা পাইথনে আসবো। কিন্তু পাইথনে যাবার আগে আমাদের এই বেসিক আন্ডারস্ট্যান্ডিংগুলো যদি ক্লিয়ার হয়ে যায় তাহলে আমাদের জন্য কাজটা সহজ হবে। বিশেষ করে কিভাবে ডেটাকে ম্যানিপুলেট করতে হয়। মানে আপনারা যদি দেখেন যে আমাদের এই মেশিন লার্নিং বা আমাদের এই ডেটা সাইন্সের মধ্যে কিন্তু লিনিয়ার অ্যালজেব্রা কিন্তু একটা পার্ট এন্ড পার্সেল মানে সবকিছুতে। তো লিনিয়ার অ্যালজেব্রাতে যখন আমরা কাজ করব তখন কিন্তু ডেটা রিপ্রেজেন্টেশনের ব্যাপার আছে। যেখানে ভেক্টর, স্কেলার, তারপর মনে করেন যে আমাদের যে ওয়ান ডাইমেনশন ম্যাট্রিক্স দুই ডাইমেনশনের ম্যাট্রিক্স মানে ওয়ান ডাইমেনশন ম্যাট্রিক্স তারপর হচ্ছে গিয়ে দুই ডাইমেনশনের ম্যাট্রিক্স কলাম, রো। তারপর তিন ডাইমেনশন ম্যাট্রিক্স মানে কলাম, রো, ডেপথ। মানে যদি আমরা একটা ইমেজ দেখি যে থ্রি ডাইমেনশন ইমেজ। আমার কালার ইমেজ যদি দেখি তাহলে এখানে এই পাশে এবং এই পাশে আমরা পিক্সেল গ্রে স্কেল পিক্সেল। ওয়ান হচ্ছে গিয়ে একটা পিক্সেলের জন্য। আর আমরা যদি ডেপথে যদি তিনটা কালার চ্যানেল নেই। তিনটা কালার চ্যানেল নেই তাহলে দেখা যাবে যে আমরা তিনটা। তার মানে হচ্ছে গিয়ে ওখানে একটা থ্রি ডাইমেনশনাল ম্যাট্রিক্স। এই যে ম্যাট্রিক্সগুলোকে ম্যানিপুলেট করা এবং সেটাকে পাইথনের মাধ্যমে কিভাবে করতে হয় সেটা নিয়েই কিন্তু আমরা সামনে আলাপ করব। আজকে এই পর্যন্তই থাকছেন তো সামনে?

নন-প্রোগ্রামারদের জন্য ডাটা সাইন্স: ডাটা সাইন্সের বেসিক পাইথন

নন-প্রোগ্রামারদের জন্য নতুন ভিডিও সিরিজপাইথন বেসিক সিরিজ পর্ব ৩.mp3

আমি এটুকু বলতে পারি যে পাইথন দিয়ে ডেটা সাইন্স করা অনেক সোজা আর পাইথন আসলে আমি মনে করি যে পাইথন অ্যাজ এ প্রোগ্রামিং ল্যাঙ্গুয়েজ এটা কিন্তু শেখা সোজা কারণ পাইথনটা কিন্তু অনেকটাই বাংলার মত পড়া যায় মানে আমি এভাবে বলতে পারি যে পাইথনটা কিন্তু আমরা পড়ে দেখতে পারি আমরা সরাসরি কিন্তু পাইথনটা আমরা বাংলার মত মানে আমরা বলছি যে ইংরেজিতে যেভাবে আমরা পড়ি আমরা কিন্তু এভাবে পড়ে পড়ে বুঝতে পারবো আমাদের পাইথনের পুরো জিনিসটা আর পাইথনের সবচেয়ে বড় যে জিনিসটা হচ্ছে যে পাইথনের মধ্যে যে এনভারনমেন্ট আছে সেই এনভারনমেন্টে যদি আমরা সব ডেটাকে যদি আলাদাভাবে বিশেষ করে আমরা যেহেতু ডেটা সাইন্স নিয়ে কথা বলছি পাইথনের পাইথনের ডেটা সাইন্সে যদি সবকিছু আলাদা আলাদা ভেরিয়েবলে রাখা হয় তাহলে কিন্তু সেটা আসলে রাখাটা ডিফিকাল্ট আর সে কারণে কিন্তু পাইথনের সিকুয়েন্স আছে মানে আমরা বলছি যে পাইথনের সিকুয়েন্সের একটা কাজ হচ্ছে কি যে মাল্টিপল ডেটা পয়েন্ট আছে মাল্টিপল ডেটা পয়েন্ট গুলোকে সে একটা লেভেলে নিয়ে এসে সেগুলোকে ঠিকমত রাখতে পারে আর সেজন্যই কিন্তু পাইথনের সিকুয়েন্সটা জানা জরুরি এইজন্যই আমরা বলছি যে পাইথনের সিকুয়েন্সে যে জিনিসটা মাঝে মাঝে বলি যে আমরা লিস্ট মানে একটা লিস্ট কথা বলছি যে পাইথন আমরা যেভাবে হাতে কলমে আমরা লিস্ট বানাই সেই লিস্টের মধ্যে কিন্তু আমরা দেখাচ্ছি যে পাইথনের মধ্যে আমরা একটা লিস্টের মধ্যে আমরা যেভাবে হাতে বাজারে লিস্ট বানাই আমরা কিন্তু সেই হিসাবে কিন্তু পাইথন একটা লিস্ট বানাতে পারি এবং লিস্টের ভিতরে যে কন্টেন্ট আছে সেই কন্টেন্ট গুলোকে আমরা চেঞ্জ করতে পারি আমরা এক্সেস করতে পারি আমরা সেটাকে অ্যাপেন্ড করতে পারি আমরা ডিলিট করতে পারি আমরা রিমুভ করতে পারি তো আবার কিছু কিছু সময় যে আমার যে লিস্ট আছে সেই লিস্টটা আমি মাদার লিস্ট টাইপ আর কি এটাকে আমি কোন ধরনের চেঞ্জ করবো না বা কোন কিছু করতে পারবো না তাহলে আমাদের প্রোগ্রামিং এর ভুলে যাতে কোন কিছু না হয় সেগুলোর জন্য কিন্তু আমরা আবার অন্যভাবে দেখতে পারি যে টুপল বলতে পারি যে সেখানে আমরা সবকিছু কোন ধরনের মিউটেবল হবে না মানে কোন ধরনের চেঞ্জ করা যাবে না কোন কিছু করা যাবে না তো পাইথনের সিকুয়েন্সটাই কিন্তু এইজন্য ইম্পরট্যান্ট এবং আরেকটা ব্যাপার আমরা বলি যে পাইথনের মধ্যে আমরা আসলে দেখছি যে ডিকশনারি আছে যে আমরা একটা কি পেয়ার ভ্যালু যে আমি এবং আমার সাথে আমার বয়স আমার বোন আমার বোনের সাথে আমার বোনের বয়স আমার ভাই ভাইয়ের সাথে মানে ভাইয়ের নাম এবং তার বয়স এই এই যে একটা ডিকশনারি এটাও কিন্তু এটা করা সম্ভব এই আমাদের লিস্টের মধ্যে তো আমরা বলছি যে এই লিস্টের মতই কিন্তু টুপল তারপর হচ্ছে গিয়ে আমাদের এই ডিকশনারি এবং ডিকশনারির পাশাপাশি আমরা কিন্তু আরো অন্যান্য অনেক কিছু দেখতে পারি এখন আমরা তো ছোটবেলায় আমরা দেখে এসেছি যে সেট কিভাবে তৈরি করে মানে একই জিনিস ইউনিক ভ্যালু থাকতে হবে মানে একটার মধ্যে ইউনিক ভ্যালু মানে আমার এখানে এক এক তিন চার আমি এক এক তিন চার বলতে পারবো না আমি বলবো যে এক তিন চার তার মানে হচ্ছে কি এটা একটা সেট ইউনিক একটা ভ্যালু একবার একবারই নেওয়া হবে তো এরকম ভাবে আমরা বলছি যে পাইথনের যে সিকুয়েন্স ব্যাপারটা সেটা একটা ইম্পরট্যান্ট ইস্যু বিশেষ করে ডেটা সাইন্সের জন্য এবং আমরা ডেটাকে আমরা সেভাবে রাখার চেষ্টা করব আর এর সাথে তো হেল্পার লাইব্রেরি আছে আর আরেকটা জিনিস হচ্ছে পাইথন লজিক মানে পাইথন লজিকটাও কিন্তু আমাদের বুঝতে হবে যে পাইথন লজিকটা আসলে আমাদের মত যারা রিপিটেটিভ কাজ করতে চান না মানে একই জিনিস তারা রিপিটেটিভ কাজ করতে চায় না তাদের জন্য হচ্ছে গিয়ে পাইথন লজিক আর পাইথন লজিকের সবচেয়ে বড় যে হেল্প মানে বড় যে স্ট্রেন্থ সেটা হচ্ছে গিয়ে আমরা একটা জিনিস ধরা যাক আমরা একটা কন্ডিশন মিট করা না পর্যন্ত আমরা একটা কন্ডিশন নিয়ে কাজ করছি আমাদের কন্ডিশন আমরা বলছি কন্ডিশনটা মিট করার আগ পর্যন্ত আমাকে সে ওই কাজটা করতেই থাকবে এবং কাজটা যখন মিট হবে তখন এক্সিট কোড দিয়ে বের হয়ে যাবে তো এইজন্য আমরা বলছি যে আমাদের এই পাইথন লজিকে আমাদের আসলে অনেক কিছু আছে যে একটা গিভেন কন্ডিশন কন্ডিশনটা মিট হলো মিট হওয়ার পর তারপর সেই জিনিসটা আমরা নিয়ে সামনে কাজ করব তো এখন এই ব্যাপারটা হচ্ছে যে পাইথন লজিকের একটা অংশ হচ্ছে গিয়ে এটা আসলে অটোমেশন একটা বড় পার্ট মানে আমরা আসলে এখানে অটোমেশন করতে যাচ্ছি আমাদের এখানে লজিক স্টেটমেন্ট মানে যেটাকে আমরা বলছি যে ইফ এলস বা এলিফ মানে আমরা আমরা কিছু লজিক্যাল স্টেটমেন্ট ব্যবহার করব এবং তার পাশাপাশি আমরা লুপ ব্যবহার করতে পারি সেই লুপের মধ্যে আমরা বলতে পারি যে ফর লুপ মানে সবচেয়ে বেশি আমরা ফর লুপ ব্যবহার করি রাদার দেন হোয়াইল লুপ মানে আমরা হোয়াইল লুপ ব্যবহার করি বাট ফর লুপটা সবচেয়ে বেশি এবং আমাদের দেখবেন যে আমাদের ডেটা সাইন্সে ফর লুপটাই আমরা আসলে একটা কাজ করি এবং তার পাশাপাশি রেঞ্জ বা এই ধরনের জিনিসপত্র নিয়ে কাজ করি তো আমার একটাই কথা যে আমরা পাইথন দিয়ে শেখার সময় এই যে পাইথন সিকুয়েন্সটা এটা যদি একটু ঠিকমত আমরা বুঝতে পারি তাহলে কিন্তু আমাদের কাজটা অনেক সহজ হয়ে যাবে তার পাশাপাশি আমরা অটোমেশন করতে চাইলে কিন্তু আমাদের সবকিছুতেই মানে আমরা একই জিনিস কিন্তু রিপিটেটিভ করবো না রিপিট কেন করব যদি আমাদের কাছে প্রোগ্রাম থাকে প্রোগ্রাম রিপিট কাজকে সবকিছু অটোমেশনে ফেলে দিবে আর সেজন্যই কিন্তু এই পাইথনের লজিক এবং পাইথনের লজিকের যে বড় ব্যাপারটা হচ্ছে যে আমরা রিপিট অ্যাকশনের পাশাপাশি আমরা কিছু ডেফিনেশন সেট করে দেব যে এই জিনিসটাই তুমি করবা এবং এই জিনিসটা করার পর কাজটা শেষ হয়ে গেলে তুমি এখান থেকে এক্সিট করে যাবা বা এখান থেকে তুমি বের হয়ে যাবা এখন এই কন্ডিশন স্টেটমেন্ট বা এর পাশাপাশি লজিক স্টেটমেন্ট এবং লুপ এবং তার পাশাপাশি কিছু ফাংশন এই ফাংশন গুলো তখন আমরা এখানে কাজ করে দেখাবো তো সেজন্য বলছি যে আমরা পাইথনের সিকুয়েন্স এবং পাইথন লজিক আমরা ঠিকমত বুঝতে পারলে আমাদের কাজটা কিন্তু অনেক সহজ হয়ে যাবে আজকে এই পর্যন্তই থাকছেন তো সামনে

নন-প্রোগ্রামারদের জন্য ডাটা সাইন্স: ডাটা সাইন্সের বেসিক পাইথন

নন-প্রোগ্রামারদের জন্য ডাটা সাইন্স ডাটা সাইন্সের বেসিক পাইথন, ২য় পর্ব.mp3

চলে এলাম দ্বিতীয় পর্বে। আমরা কিভাবে পাইথন দিয়ে ডেটা সাইন্স এবং নন প্রোগ্রামার যারা আছেন তারা পাইথন দিয়ে কিভাবে ডেটা সাইন্স ক্যারিয়ার গড়তে পারবেন। আর সে কারণে আমরা যখন পাইথন দিয়ে কোন কিছু করতে চাইবো তার আগে আমাদেরকে জানতে হবে যে আসলে আমাদের যে সমস্যাটা আছে সেই সমস্যাটা আমরা কিভাবে সমাধান করতে চাই। আমরা একটা কথা প্রায় বলি যে কনসেপ্ট হেভি কোড লাইট। আমি আবারও বলছি কনসেপ্ট হেভি কোড লাইট। মানে আমরা যদি কনসেপ্টটা ঠিকমত বুঝতে পারি তাহলে কিন্তু আমাদের কোড মানে আমরা যে কাজটা করব বা যে সমাধানটা করতে চাইবো সেটা নিজে থেকে অনেক ছোট হয়ে আসবে। কারণ আমরা একটা সমস্যার সমাধান করতে চাইলে স্মার্ট পদ্ধতিতে আমরা সেই প্রবলেমটাকে সলভ করতে চাইবো। সেই হিসাবে আমরা যেটা বলছি যে কনসেপ্ট হেভি কোড লাইট সেখানে আমাদের কনসেপ্টটা ঠিকমত বুঝতে হবে। যেকোনো সমস্যা বোঝার আগে বা সমস্যার সমাধান করার আগে আমার সমস্যাটা ঠিকমত বুঝতে হবে। আমি যদি সমস্যাটাকে ঠিকমত বুঝতে পারি তাহলে কিন্তু সেই সমস্যাটার সমাধান করা খুব সহজেই বের করা যায়। সেখানে আমরা যে জিনিসটা করব যে কনসেপ্টটা ঠিক করে করে কিন্তু আমরা সামনে আগাবো। আর আরেকটা জিনিস আমরা বলছি যে আমরা দেখতে পারতে হবে। আমাদেরকে দেখতে পারতে হবে যে আমরা আসলে দূরে কতটুকু দেখতে পাচ্ছি। একটা সমস্যার সমাধান করতে চাচ্ছি কিন্তু সমস্যাটা সমাধান করার আগে আসলে আমরা কতদূর হাঁটবো। আমরা কতদূর যেতে চাইবো সেই দূরটা যদি আমরা আগে থেকে বের করতে পারি তাহলে কিন্তু আমাদের এই ব্যাপারটা বোঝা সহজ। আর সেখানে যে জিনিসটা আমি দেখছি যে পাইথন দিয়ে ডেটা সাইন্স সেখানে কিন্তু পাইথনের কাজটা আসলে কিছুটা কম। মানে আপনি যদি আমাকে সরাসরি জিজ্ঞাসা করেন আমি বলব যে পাইথন দিয়ে ডেটা সাইন্সের কাজ কম। কারণ পাইথনের যে হেল্পার লাইব্রেরিগুলো আছে পাইথনের হেল্পার লাইব্রেরিগুলো কিন্তু খুব মানে হেভি লিফটিং মানে পাইথনের হেল্পার লাইব্রেরি গুলোর কাজ হচ্ছে গিয়ে বাকি সব হেভি লিফটিং করা। মানে যত ধরনের ডিফিকাল্ট কাজগুলো আছে ডিফিকাল্ট কাজগুলো কিন্তু এই পাইথনের হেল্পার লাইব্রেরি কিন্তু এই কাজগুলো করে থাকে। আর সেজন্য পাইথন বেসিক জানলে হবে আর বাকিটা আমরা কিন্তু সেই হেল্পার লাইব্রেরি দিয়ে কিন্তু আমরা হেভি লিফটিং করে দিব। মানে আমরা আসলে তুলে ফেলবো। এখানে যে জিনিসটা আমরা দেখছি যে আমরা যদি দেখি ধরা যাক ডেটা ম্যানিপুলেশনের জন্য মানে আমাদের ডেটা ম্যানিপুলেশনের জন্য এক্সেল কিন্তু একটা চমৎকার জায়গা। তো এখন এই এক্সেলের মতই কিন্তু আরো কিছু হেল্পার লাইব্রেরি আছে যেটা আমি বলছি পাইথনের জন্য। যেমন আমরা বলছি ডেটা ফ্রেমটাকে আমরা বলি যে এক্সেল টাইপ একটা জিনিস। সেই ডেটা ফ্রেমটা কিন্তু পাইথনের জন্য ওদের হেল্পার লাইব্রেরিটা হচ্ছে গিয়ে পান্ডাজ। মানে আমরা কিন্তু তখন দেখা যাবে যে পান্ডাজ দিয়েই কিন্তু আমাদের সব হেভি লিফটিং করে ফেলবো। তো সেজন্য আমাদের কিন্তু পাইথন দিয়ে অত ভয় পাওয়ার কিছু নেই যে পাইথনের একদম ভিতরে যে ঢুকতে হবে সেরকম না। মানে পাইথন দিয়ে আমরা বেসিক জিনিসগুলো আমরা শিখলেই আমাদের কাজটা হয়ে যাবে। সেখানে ডেটা মানে ডেটাটা পাইথনের মধ্যে কিভাবে আছে সেটা যদি আমরা ঠিকমত বুঝতে পারি তাহলে কিন্তু আমাদের কাজটা সহজ হয়ে যাবে। যেমন পাইথনে ডেটাটা কিভাবে আছে বা পাইথনের ডেটাটা কিভাবে আমরা রাখবো এবং সেই ডেটাকে আমরা কিভাবে এক্সেস করব সেটা যদি আমরা ঠিকমত বুঝতে পারি তাহলে কিন্তু আমাদের পাইথনের কাজটা কমে আসবে। সেখানে আমরা দেখছি যে পাইথনের মধ্যে যেকোনো ডেটা মানে যেকোনো ডেটাকে পাইথন কিভাবে রিপ্রেজেন্ট করে। এই রিপ্রেজেন্টেশন লেয়ারটা বা এই রিপ্রেজেন্টেশনটা ঠিকমত বুঝতে পারলে আমাদের জন্য কাজটা সহজ হয়ে যাবে। এবং সেইখানে আমরা একটা জিনিস দেখছি যে পাইথন ভেরিয়েবলগুলো নিয়ে আসলে কিভাবে কাজ করে। আর এই ভেরিয়েবলের মধ্যে মানে ভেরিয়েবলের ব্যবহার ভেরিয়েবলটা কোথায় আমি ব্যবহার করতে চাচ্ছি ভেরিয়েবলগুলো কিভাবে আমি এক্সেস করব। আর এই ভেরিয়েবলের সাথে লেভেল কি মানে ভেরিয়েবলগুলো ভেতরে যে ডেটাটা আছে সেই ডেটাটা আসলে একটা বক্স মানে আমরা একটা বক্স বলছি। এখন বক্সটা হচ্ছে লেভেল। এখন ওর ভিতরে কি কন্টেন্ট আছে সেটাও কিন্তু আমাদেরকে জানতে হবে যে আমরা আসলে সেই কন্টেন্টে কিভাবে এক্সেস করব। আমরা একটা ভেরিয়েবলের মধ্যে কন্টেন্টটাকে কিভাবে এক্সেস করব এবং সেই কন্টেন্টের মধ্যে কিভাবে আমরা স্লাইসিং করব বা সেই কন্টেন্টের মধ্যে আমরা কিভাবে ইন্ডেক্সিং করে কোন নাম্বার কন্টেন্টটা আমার দরকার। কোন ধরা যাক আমরা যদি বলি যে পাইথনের একটা বড় কাজ হচ্ছে লিস্ট। মানে পাইথনের লিস্ট কিন্তু প্রচুর ডেটা রাখতে পারে। এখন এই লিস্টে আমি প্রথম ডেটাটা রাখবো নাকি আমি মিলিয়ন ডেটাটা নিব। মানে আমার সেই ডেটার ভিতরে আমরা কিভাবে এক্সেস করব সেটা কি আমরা একটা লুপের মধ্যে দিয়ে ফেলে দিব নাকি একটা আমরা আইটারেশন একটা ব্রেকআউটের মধ্যে যে কোথা থেকে আমরা সেই ডেটাটা এক্সেস করব সেটা কিন্তু আমাদের জানা জানা দরকার। তো এখানে আমরা ওই ভেরিয়েবলের পাশাপাশি যে লিস্টের ব্যাপারটা আমরা বললাম যে লিস্টের মধ্যে কিভাবে ডেটা থাকে মানে ডেটাটা কিভাবে লিস্টে থাকে। এর পাশাপাশি লিস্টের মধ্যে যে এলিমেন্টগুলো আছে সেই এলিমেন্টগুলোকে আমি এর আগে বললাম যে এলিমেন্টগুলোকে আমরা কিভাবে এক্সেস করব। কোন এলিমেন্টটা দরকার প্রথমটা দরকার নাকি হাজারতম এলিমেন্টটা দরকার নাকি মাঝখানে সবগুলো দরকার নাকি আমাদের শেষের দিকের গুলো দরকার। সেটাও কিন্তু আমাদেরকে বুঝতে হবে এবং লিস্টের কোন জায়গাতে ডেটাটা স্টোর করে এবং সেই ইন্ডেক্সিং এর ব্যাপারটা যদি আমরা ঠিকমত বুঝতে পারি তাহলে কিন্তু আমাদের কাজটা সহজ হয়ে যায়। কারণ আমরা জানি যে লিস্টিং এ বিশেষ করে আমরা জিরো মানে আমাদের শুরুর ইন্ডেক্সটা হচ্ছে জিরো। তারপর হচ্ছে গিয়ে আমাদের তার মানে হচ্ছে গিয়ে আমাদের প্রথম যে আইটেমটা সেটা জিরো। তারপরেরটা হচ্ছে ওয়ান। এভাবে কিন্তু আমাদের লিস্টিং এর ইন্ডেক্সটা নিয়ে কাজ করে। এখন যে জিনিসটা আমরা বলি যে এই যে একটু আগে বললাম যে ইন্ডেক্সের পজিশনটা সেই ইন্ডেক্সের পজিশনটাও নিয়েও কিন্তু আমরা বিভিন্ন ধরনের ডেটা শেপিং নিয়েও কিন্তু আমরা কাজ করব। আর তার পাশাপাশি আমরা লিস্টের মধ্যে ডেটাটা কিভাবে সর্ট হচ্ছে। মানে আমরা তো সব ডেটা চাই না। আমরা সর্ট করে চাই বা সর্ট করে এটাকে রিভার্স অর্ডারে চাই নাকি আমরা এসেন্ডিং অর্ডারে চাই নাকি ডিসেন্ডিং অর্ডারে চাই। এই যে জিনিসগুলো এটা কিন্তু পাইথনের কাজ। সেটা আমরা কিন্তু এখানে দেখব এবং সেই লিস্টের মধ্যে লিস্টের লেন্থটা কি হতে পারে সেটাও কিন্তু আমাদের একটা জানার বিষয় আছে। সবচেয়ে বড় ব্যাপার হচ্ছে যে লিস্টের মধ্যে লুপিং। মানে আমরা যখন লুপিং চালাবো তখন কিন্তু লিস্টের মধ্যে কোন অংশটুকু আমার দরকার বা কোন অংশটুকু আমার কন্ডিশন মিট করছে এবং কন্ডিশন মিট করে তাকে আমরা নিব। বিকজ আমরা তো সব ডেটা নিয়ে কাজ করব না। আমাদের সেই ডেটাটা কোন জায়গাতে এক্সেস করলে আমার জন্য সিস্টেমটা অপটিমাইজ হবে সেখানে আমরা পাইথনের ব্যাপারটা নিয়ে কাজ করব। এবং আরেকটা জিনিস হচ্ছে কি আমরা যখন স্লাইস করব আমরা যখন লিস্ট করব সেই লিস্টের মধ্যে স্লাইসিং করে কোন অংশটা আমরা নিব বা কোন অংশটা ফেলে দিব বা কোন অংশটা আমার দরকার নাই সেই জিনিসগুলো কিন্তু আমরা এখানে দেখার চেষ্টা করব। আর সবচেয়ে বড় যে জিনিসটা আমি সবসময় বলি যে পাইথনের সবচেয়ে স্ট্রেন্থ হচ্ছে ওর অনেকগুলো হেল্পার লাইব্রেরি আছে। যেমন পান্ডাজ, নামপাই। মানে আমরা নামপাই দিয়ে কিন্তু প্রচুর সাইন্টিফিক কাজ করে থাকি। তো সেই কাজগুলো যদি আমি শুধুমাত্র আমি পাইথন দিয়ে করতে চাইতাম তাহলে কিন্তু আমার জন্য লাইফটা অনেক ডিফিকাল্ট হতো। সেইম এক্সেলের মত ডেটা ম্যানিপুলেশন আর কে পারবে? তো আমি মনে করছি যে এই এক্সেলের মত ডেটা ম্যানিপুলেশন সেটা পিভোটিং হোক, পিভট টেবিল হোক বা অন্যান্য জিনিস হোক সেটা কিন্তু সবকিছুই পান্ডাজ মানে আমাদের এই পাইথনের হেল্পার লাইব্রেরি করে দিচ্ছে। তো সেই জন্য বলছি যে আমরা এই পাইথন দিয়ে যা করব এর ম্যাক্সিমাম কিন্তু হেল্পার লাইব্রেরি দিয়ে করব এবং সেই বিভিন্ন মডিউলগুলো আমরা কিন্তু দেখা যাবে সেটাকে আমরা ইম্পোর্ট করে নিয়ে আসবো। আর সেজন্যই আমরা বলছি যে পাইথনের বেসিক কিছু জানলেই হবে। আমরা পাইথনের ব্যাপারে অতটা ভয় পাবো না যে এটা আসলে আমাদেরকে খুব বেশি মানে গভীরে যেতে হবে কিনা। আমাদের যখন গভীরে যেতে হবে তখন আমরা এই হেল্পার লাইব্রেরি বা পাইথনের কিছু বেশি বেস বেশ কিছু জিনিস আমরা আপনাদেরকে দেখিয়ে দিব। তবে আমি নেক্সট সেশন থেকে সরাসরি কম্পিউটারে চলে যাব। আজকে আমি মনে করছি যে আমাদের ইনিশিয়াল যে থট প্রসেসটা সেটা আমি আপনাদেরকে বলে দিলাম যাতে আমাদের ভবিষ্যতে এই ব্যাপারগুলো আরো বুঝতে সুবিধা হয়। আজকে এই পর্যন্তই থাকছেন তো সামনে?

Prompt Engineering Guide

'এআই'কে বশ করার উপায় Writing Effective Prompts Prompt Engineering Guide.mp3

কম হলো না ডেটা নিয়ে কাজ করার সময়। আমি মনে করি যে প্রায় এক দশক ধরে ডেটা নিয়ে কাজ করতে গিয়ে যেটা আসলে বুঝলাম যে দিনশেষে ডেটা ইজ দা ফিউচার এন্ড ডেটা যখন আমাদেরকে হেল্প করছে সিদ্ধান্ত নিতে তাহলে আমি কেন যন্ত্রকে মানে বিশেষ করে যন্ত্র যেহেতু আমাদের সহযোগী হচ্ছে যন্ত্র যেহেতু আমাদেরকে যন্ত্রকে ব্যবহার করে আমাদেরকে কাজটা বের করে আনতে হচ্ছে তার মানে হচ্ছে কি আমাদেরকে যন্ত্রকে প্রপার ইন্সট্রাকশন দিতে হবে। আর সেজন্য আগে আমরা কি করতাম যে আমরা প্রোগ্রামিং ল্যাঙ্গুয়েজ শিখতাম, কম্পাইলার ব্যবহার করতাম যাতে প্রোগ্রামিং ল্যাঙ্গুয়েজ ব্যবহার করে আমরা একটা কম্পিউটারকে ইন্সট্রাক্ট করতে পারি যাতে সে তার ফাইনাল আউটকামটা দিতে পারে। তবে এটা ঠিক যে এখন দা কারেন্ট ট্রেন বা হটেস্ট ট্রেন যেটাকে বলা হচ্ছে যে আমাকে অনেকে জিজ্ঞেস করে যে এখন কোন প্রোগ্রামিং ল্যাঙ্গুয়েজটা শেখা ভালো বা কোন প্রোগ্রামিং ল্যাঙ্গুয়েজটা শিখলে তার কাজটা ভালো হবে। আমি সবসময় বলি যে দা লেটেস্ট এন্ড দা হটেস্ট ট্রেন অর দা বেস্ট কম্পিউটার ল্যাঙ্গুয়েজ টু লার্ন ইজ ইংলিশ বিকজ ইফ উই লার্ন ইংলিশ প্রপারলি দেন আসলে ইংলিশই কিন্তু আমাদেরকে কম্পিউটার থেকে কাজগুলো বের করে আনতে পারবে। আর সেজন্যই কিন্তু এখন যেটাকে আমরা বলছি যে প্রম্পট ইঞ্জিনিয়ারিং মানে হচ্ছে গিয়ে কম্পিউটারকে প্রপারলি ইন্সট্রাক্ট করতে পারা যেটাকে আমরা বলছি ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং। আমরা আসলে ন্যাচারালি ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ব্যবহার করে বা ন্যাচারালি কিভাবে আমরা একটা কম্পিউটারকে ইন্সট্রাক্ট করে তার কাছ থেকে কাজটা বের করতে আনতে পারি। আর সেজন্যই কিন্তু প্রম্পট ইঞ্জিনিয়ারিং নিয়ে কিন্তু অনেক ধরনের আলাপ হচ্ছে। তো আজকে আমি নিয়ে এলাম হচ্ছে গিয়ে গুগল আসলে যেহেতু আমি প্রম্পট ইঞ্জিনিয়ারিং অনেকদিন ধরে করি কারণ আমার যে ফাইনাল আউটকামগুলো নিয়ে আসতে হয় তার প্রম্পট ইঞ্জিনিয়ারিং আসলে আমি করছিলাম প্রায় প্রায় গত আট নয় মাস ধরে। তো আমি আসলে প্রম্পট ইঞ্জিনিয়ারিং এর জন্য একটা বই লিখছিলাম বাট আসলে সময় বের করতে পারি না বা সবকিছু মিলিয়ে তো আমার কাছে মনে হচ্ছে যে একটা প্রম্পট ইঞ্জিনিয়ারিং গাইড যেটা আসলে গুগল অনেকদিন ধরেই আসলে তারা ওয়ার্ক আউট করছিল। সো একটা সুন্দর প্রম্পট ইঞ্জিনিয়ারিং গাইড ওরা বলছে জেমিনির জন্য বাট একচুয়ালি ইট উইল ওয়ার্ক ফর এভরিওয়ান। সো দিস ইজ দা প্রম্পট ইঞ্জিনিয়ারিং গাইড। দিস ইজ দা প্রম্পট ইঞ্জিনিয়ারিং গাইড যেটা জেমিনির জন্য তারা বলছিল বাট দিস ইজ হোয়ার দে টক এবাউট দা কুইক স্টার্ট হ্যান্ডবুক ফর ইফেক্টিভ প্রম্পটস বিকজ ইউ ক্যান রাইট প্রম্পটস রাইটিং প্রম্পটস ইজ নট দ্যাট ডিফিকাল্ট বাট দেন হাউ ডু ইউ রাইট ইফেক্টিভ প্রম্পটস বিকজ আমি দেখছি যে অনেকে গুগলে সার্চ করে বাট দে ডোন্ট নো হাউ টু হাউ টু ডু ইট প্রপারলি অর আমরা দেখছি যে আমরা যখন চ্যাট জিপিটি ব্যবহার করছি চ্যাট জিপিটি কিন্তু আমরা প্রপারলি ইন্সট্রাক্ট করতে পারি না। এজন্য আমাদের ফাইনাল আউটকামটা সেভাবে ভালোভাবে আসে না। সো উই শুড বি এবল টু ডু দিস থিং বিকজ এটা কিন্তু এই মাসেই বের হয়েছে এবং হাউ ডু ইউ রাইট ইফেক্টিভ প্রম্পটস এবং সেখানে কিন্তু বেশ কয়েকটা কথা তারা বলেছে যে যেটা আসলে আমি সবসময় বলি যে ইফ ইউ রিয়েলি ওয়ান্ট টু টক টু দা মেশিনস ইউ নিড টু আন্ডারস্ট্যান্ড হাউ দা মেশিন অপারেটস। সো আমরা যদি এভাবে কথা বলি যে না আসলে মেইন মেশিনের সাথে যখন আমি কথা বলব আই শুড বি এবল টু সে হোয়াট ইজ মাই পার্সোনা মানে হু এম আই। আমি কি? আমি কে? এটা যদি আমি না বলি মানে আমি তো তাকে ইন্সট্রাক্ট করছি। সো আমি যদি তাকে না বলি যে হু এম আই তাহলে কিন্তু এটা আসলে হবে না। সো দ্যাট দা ফার্স্ট থিং ইজ দ্যাট ইউ হ্যাভ টু সে হু আর ইউ মানে হু এম আই। জাস্ট লাইক এখানে বলছে ইউ আর এ গুগল ক্লাউড প্রোগ্রাম ম্যানেজার। সো এই এটা দিস ইজ হোয়াট উই টক এবাউট পার্সোনা মানে আমি কে এন্ড দেন হোয়াট ইজ দা টাস্ক? টাস্কটা কি? সো হচ্ছে গিয়ে ড্রাফট এ ইজি রিপ সামারি ইমেইল। এটা হচ্ছে গিয়ে সে হচ্ছে গিয়ে তার টাস্ক। এন্ড হোয়াট ইজ দা কন্টেক্সট? হোয়াট ইজ দা কন্টেক্সট? তো কন্টেক্সট ইজ বেসড অন ডিটেইল এবাউট দা রিলেভেন্ট প্রোগ্রাম ডকুমেন্ট। সো এখানে আমি আরো সামনে আসবো। বাট অফকোর্স দিস ইজ দা কন্টেক্সট যে বেসড অন হোয়াট? বেসড অন দিস অর দ্যাট অর এটা। এটা আমি তাকে যত বেশি আমি তাকে বেসড অন বলবো তত বেশি কিন্তু সে আমাকে পারফেক্টলি আউটকাম দিবে এবং সেটাই কিন্তু এখানে বলবো এবং সেখানে আমি নিজেও এখানে বুলেট পয়েন্ট দিতে পারি। আর হচ্ছে গিয়ে ফাইনাল হচ্ছে ফরম্যাট। আমি কি ফরম্যাটে চাই? আমি কত ওয়ার্ডের মধ্যে চাই? আমি কিভাবে চাই না চাই সেটাও এখানে ফরম্যাটে আসবে। সে ফরম্যাট হচ্ছে গিয়ে লিমিট টু বুলেট পয়েন্ট। আমি আসলে বুলেট পয়েন্টে চাচ্ছি তোমার কাছ থেকে আউটকাম। আমি নিজেও তাকে বুলেট পয়েন্টে দিতে পারি। ফাইনালি তাকেও কিন্তু বলতে পারি যে দিস ইজ দা বুলেট পয়েন্ট ইউ উড সিন। সো অবভিয়াসলি আমরা যখন কথা বলব ন্যাচারাল ল্যাঙ্গুয়েজ ব্যবহার করব স্পেসিফিক হব এবং কিভাবে আইট্রেট করা যায় কনসাইজ হব এবং কমপ্লেক্সিটি যাতে না থাকে এবং এই কনভার্সেশনটা কিভাবে আমি আসলে ওয়ার্ক আউট করব সেটাই কিন্তু ফাইন টিউন করা যায়। সো দেয়ার আর মেনি থিংস দ্যাট ইউ ক্যান গেট ইট ফ্রম হিয়ার। দা প্রম্পটিং ইজ এন আর্ট। দা প্রম্পটিং ইজ এন আর্ট এন্ড দেন দিস ইজ হাউ ইউ উড গেট ইট। সো অবভিয়াসলি রাইটিং ইফেক্টিভ প্রম্পটস নিয়ে আলাপ হচ্ছে কাস্টমার সার্ভিস আমি যদি কাস্টমার সার্ভিসে কাজ করি তার জন্য কি হবে সেটা এখানে কিন্তু তারা বলেছে যে আসলে কাস্টমার সার্ভিসে কিভাবে আমরা ওয়ার্ক আউট করব। দিনশেষে আমি যেটাকে বিশ্বাস করি সেটা হচ্ছে যে প্রম্পট ইঞ্জিনিয়ারিং ইজ নাথিং বাট উই নিড টু বি এবল টু হার্নেস যে আমার কম্পিউটার কিভাবে কাজ করে মানে কম্পিউটারে কিভাবে কোন ইন্সট্রাকশনটা দিলে সে প্রপারলি সে তার ফাইনাল আউটকামটা দিতে পারবে বিকজ দিনশেষে আমরা যদি এই আউটকামটা যদি না দেখাতে পারি কম্পিউটার থেকে বা কম্পিউটার থেকে যদি ফাইনাল আউটকামটা যদি না ওয়ার্ক আউট করি আসলে এটা থেকে আমরা ঠিকমতো ফলাফলটা পাবো না বিকজ দিনশেষে আমরা আসলে কি চাই? আমরা চাই কম সময়ে একটা ভালো আউটপুট আনতে। সো এই জায়গাটাতে কিন্তু আমাদের ওয়ার্ক আউট যে আমরা যদি কম্পিউটারের কাছ থেকে একটা ভালো আউটপুট আনতে চাই তাহলে আমাকে বুঝতে হবে যে কম্পিউটার কিভাবে অপারেট করে এবং সেখানে কম্পিউটার কিভাবে এটা নিয়ে কিভাবে তার ফাইনাল আউটকাম দেয়। এইজন্যই আমি আসলে এই বইটার পাশাপাশি এই এটার আমি আগে কিন্তু একটা বই লিখেছি কৃত্রিম বুদ্ধিমত্তায় মানবিক কৃত্রিম বুদ্ধিমত্তায় শিক্ষা ব্যবস্থা। আপনারা দেখতে পারেন যে কৃত্রিম বুদ্ধিমত্তা শিক্ষা ব্যবস্থা এই বইটা আমি লেখার পেছনে একটাই কারণ যে আসলে মানুষ কিভাবে শেখে আর যন্ত্র কিভাবে শেখে তার মধ্যে সিমিলারিটি কোথায়? কোথায় যন্ত্র মানুষকে টেক্কা দিচ্ছে কোথায় মানুষ কে টেক্কা দিচ্ছে যন্ত্র বিকজ মানুষই যন্ত্রকে তৈরি করেছে যাতে সে তাকে টেক্কা দেয় বিকজ যন্ত্র হচ্ছে কি হিউম্যান এক্সটেনশন। আমি যেমন একটা বড় কার্গোকে এক জায়গা থেকে আরেক জায়গায় নিতে পারি না। সো আমি একটা ক্রেন ইউজ করি। আমি যেমন আমি আমরা যেমন আকাশে উড়তে পারি না। যেহেতু মানুষ আকাশে উড়তে পারে না সো মানুষ কি করে মানুষ একটা বিমান বানিয়েছে। বিমান বানিয়ে বিমানের মধ্যে যেয়ে মানুষ উড়তে পারে। তার মানে হচ্ছে গিয়ে মানুষ কিন্তু তার সহযোগী একটা জিনিস বানিয়েছে বা মানুষ একটা জিনিসকে তার এক্সটেনশন হিসেবে ব্যবহার করছে। আমার ক্রেন হচ্ছে গিয়ে মানুষের এক্সটেনশন অফ হিউম্যান পাওয়ার। দা বিমান হচ্ছে গিয়ে মানুষের এক্সটেনশন অফ ফ্লাইং এবিলিটি। সে সেভাবে বুদ্ধিমত্তার এক্সটেনশন মানে কৃত্রিম বুদ্ধিমত্তা হচ্ছে কি মানুষের বুদ্ধিমত্তার এক্সটেনশন সো দ্যাট ইট বিকামস সুপার ইন্টেলিজেন্স। ইট বিকামস সুপার হিউম্যান বিকজ আমরা অনেক আগে জানি যে এখানে আইনস্টাইন বলেছে যে যেই প্রবলেমটা যেই লেভেলে হয় ইফ ইউ ওয়ান্ট টু সলভ এ প্রবলেম দেন ইউ উইল বি ইউ উড ওয়ান্ট টু সলভ দা প্রবলেম ইন দা হায়ার স্কেল। মানে ইফ ইউ ওয়ান্ট টু সলভ এ প্রবলেম সাস্টেইনেবলি দেন ইউ নিড টু গো টু আপার লেভেল। সেইম আমরা যদি এই যন্ত্রকে ব্যবহার করতে চাই আমাকে কিন্তু যন্ত্রকে ব্যবহার করতে পারার জন্য আসলে আমাকে সেই লেভেলে প্রম্পট ইঞ্জিনিয়ারিং জানতে হবে যে আসলে যন্ত্রকে আমি কিভাবে চালাবো। এন্টারপ্রেনাররা কিভাবে এটা চালাবে তারপর হচ্ছে গিয়ে এর পাশাপাশি প্রম্পট সিইও কিভাবে চালাবে যে এমপ্লয়ি কমিউনিকেশনটা আসলে কিভাবে হবে তার সাথে আসলে বিভিন্ন ধরনের চিফ মার্কেটিং অফিসার সে কিভাবে কমিউনিকেট করবে যে ব্রেইনস্টর্ম কন্টেক্সট কন্টেন্ট থ্রু লিডারশিপ লিডারশিপ কিভাবে কমিউনিকেট করবে এর পাশাপাশি চিফ ইনফরমেশন অফিসার কিভাবে কাজ করবে সিটিও কিভাবে কাজ করবে সবকিছুই কিন্তু এখানে আছে যে দিনশেষে উই নিড টু বি এবল টু ওয়ার্ক আউট যে আমরা প্রম্পট ইঞ্জিনিয়ারিং কিভাবে কাজ করাবো যেমন হিউম্যান রিসোর্স একটা বড় বড় একটা কাজ। এখানে হিউম্যান রিসোর্স কিভাবে কাজ করবে সেটাও কিন্তু এখানে আমাদেরকে জানতে পারতে হবে। সো এখানে সেই যে চারটা যে কিওয়ার্ড সেই চারটা কিওয়ার্ডের জন্য কিন্তু তারা এভাবে বলছে যেমন এখানে হচ্ছে ফাইনাল ফরম্যাট ইউজ এ প্রফেশনাল টোন মানে আসলে আমি কিভাবে প্রফেশনাল টোনটা চাচ্ছি সেখানেও কিন্তু এখানে ইম্পর্টেন্ট হিসেবে কাজ করবে। সো দিনশেষে আই ক্যান ইউজ জিমেইল আই ক্যান ইউজ ডক্স সব জায়গায় কিন্তু উই কুড উই কুড ইউজ ইট। এন্ড হিয়ার ইজ ইট ইজ দা মার্কেটিং পার্ট। মার্কেটিং এ আসলে কিভাবে কাজ করবে এন্ড দেন কিভাবে প্রম্পট আইটারেশনটা হবে সেগুলো নিয়ে আসলে আমরা এখানে দেখতে পারি। দিনশেষে আমি মনে করি যে দিস ইজ দা ডকুমেন্ট হোয়াট ইউ কুড ইউ কুড ট্রাই। আমি বাংলায় লিখতে চেয়েছিলাম কিন্তু আসলে আমি সময় পাচ্ছি না। বাংলায় এরকম একটা বই হলে ভালো হতো কিন্তু যেহেতু আমার প্রম্পটিং এখনো ইংরেজিতে আছে এজন্য এই বইটা আসলে আপনারা দেখতে পারেন হুইচ ইজ হুইচ ইজ এ গুড ওয়ান। যেমন সেলসের জন্য তারা এখানে বলেছে যে সেলস কিভাবে প্রম্পট ইঞ্জিনিয়ারিং ব্যবহার করে আসলে তারা এখানে কাজ করবে সেটাও কিন্তু এখানে ক্লিয়ারলি তারা এখানে বলেছে এবং জিমেইলে কিভাবে ব্যবহার করবে গুগল ডক্সে কিভাবে ব্যবহার করবে জেমিনিতে কিভাবে ব্যবহার করবে সেগুলোর ব্যাপারে কিন্তু এখানে বলেছে। বাট মেইন পয়েন্ট আমি যেটাকে বুঝি যে দিনশেষে আমার কাজগুলো আসলে কিভাবে আমি ছোট করে নিয়ে আসতে পারি সেটাও কিন্তু আমার একটা বড় জিনিস। তো ফাইনালি আমি আসলে একটা জিনিস বলতে চাই যে প্রম্পট ইঞ্জিনিয়ারিং এ ফাইনাল ফাইন টিউনিংটা আসলে কিভাবে করব সেখানে কিন্তু ওরা বলেছে যে ব্রেক ইট আপ মানে একটা বড় টাস্ককে কিভাবে ছোট করে করে কাজ করানো যায় গিভ কনস্ট্রেইন বিকজ আমরা যদি কনস্ট্রেইন না দেই আমরা যদি লিমিটেশন না দেই যেকোনো জিনিসের আমার তো দুই পাশে দুইটা ধরা যাক আপনি যখন একটা বিল্ডিং বানাচ্ছেন বিল্ডিং এর তো চারপাশে তো পিলার দিতে হবে। সো পিলারস আর দা কনস্ট্রেইন। আপনি বলে দিচ্ছেন দিস আর দা কনস্ট্রেইন ফর গেটিং স্পেসিফিক রেজাল্টস। আমরা যদি স্পেসিফিক রেজাল্ট চাই আমাদের কিন্তু কনস্ট্রেইন বলতে হবে। আমাদেরকে লিমিটেশন আমাদেরকে বিভিন্ন পিলার ধরিয়ে দিতে হবে। উই হ্যাভ টু বি এবল টু অ্যাসাইন এ রোল যে আসলে আপনি কি হিসেবে যাচ্ছেন? ইউ আর দা হেড অফ দা ক্রিয়েটিভ ডিপার্টমেন্ট ফর এ লিডিং ট্রাভেল এজেন্সি। সো এই ধরনের একটা রোল অ্যাসাইনমেন্ট থাকতে হবে। ফিডব্যাক লাগবে অবশ্যই। আমরা আসলে আমি নিজেই প্রচুর জিরো শর্ট মাল্টিপল শর্ট আমি দেখেছি যে মাল্টিপল শটে কিন্তু আসলে খুব ভালো কাজ করে। সো ইউ নিড টু বি এবল টু আস্ক ফর দা ফিডব্যাক সো দ্যাট আমাকে কিন্তু সবকিছু ক্লিয়ারলি তাকে বলতে পারতে হবে এবং আমিও তাকে আবার প্রশ্ন করতে পারব যে হোয়াট কোশ্চেন ডু ইউ হ্যাভ ফর মি দ্যাট উড হেল্প ইউ প্রোভাইড দা বেস্ট আউটপুট। তখন কিন্তু জেমিনি হোক আর চ্যাট জিপিটি হোক তারা কিন্তু আমাকে আবার প্রশ্ন করবে বেসড অন মাই কোশ্চেন এন্ড দেন আই উড বি এবল টু অ্যানসার দোজ এন্ড দেন ইট উইল বি বেস্ট আউটপুট। কনসিডার টোন বিকজ ইউ নিড টু বি এবল টু টেইলর ইউর প্রম্পট যেটাকে আমরা বারবার বলি যে আমি কি চাচ্ছি? আমি কি এটা ফরমাল চাচ্ছি নাকি ইনফরমাল চাচ্ছি নাকি টেকনিক্যাল চাচ্ছি না ক্রিয়েটিভ চাচ্ছি নাকি ক্যাজুয়াল চাচ্ছি মানে কি হিসেবে চাচ্ছি সেই স্পেসিফিক টোনটা আমাকে তাকে বলতে পারতে হবে। সেই ইট এনাদার ওয়ে। অফকোর্স আমার আমরা কিন্তু এই একই ফাইন একই প্রম্পট কিন্তু আমরা ফাইন টিউনিং করতে পারি অন্যদিকে যাতে আমার এই জিনিসটা প্রপারলি কাজ করে বিকজ দিনশেষে আমরা যদি প্রপারলি এটাকে যদি ফাইন টিউন না করি এজন্য কিন্তু আমরা অনেক সময় কিন্তু একই প্রশ্ন ঘুরে ঘুরিয়ে ফিরিয়ে বলি। আমরা একই প্রশ্ন কিন্তু ঘুরিয়ে ফিরিয়ে দেই এবং সেই জন্য কিন্তু আমরা বলি যে সেই ইট ইন এনাদার ওয়ে বিকজ দিনশেষে আমরা যেটাই বলি না কেন আমাদের এই জায়গাটাতে আমাদেরকে খেলতে পারতে হবে। এই জায়গাটাতে আমাদেরকে বলতে পারতে হবে যে যন্ত্র কিভাবে আসলে আরো ভালো পারফর্ম করতে পারে। আমরা এটা কখনোই ভাববো না যে যন্ত্র আমাদের থেকে সুপিরিয়র নো। আমরা যেটাকে বলছি যে যন্ত্র আমাদের হিউম্যান এক্সটেনশন। আমাদের কৃত্রিম বুদ্ধিমত্তা হচ্ছে কি আমাদের ইন্টেলিজেন্সের এক্সটেনশন। সো আমরা আসলে ইন্টেলিজেন্সের এক্সটেনশন হিসেবে এটাকে ব্যবহার করব এবং এই ব্যবহার করতে গিয়েই কিন্তু আসলে আমরা আমাদের বেটার আউটপুটগুলো পাবো আর পাবো। আজকে এই পর্যন্তই থাকছেন তো সামনে?

Prompt Engineering Guide

'এআই'কে বশ করার উপায় ২ Writing Effective Prompts Prompt Engineering Guide (2nd).mp3

এখন এডুকেশন নিয়ে একটা বড় সময় দিচ্ছি কারণ দিস ইজ দা ফিউচার। আর আমরা যদি সামনে আমাদের এডুকেশন বিশেষ করে আমরা আসলে কোথায় যেতে চাই মানে বিশেষ করে আমরা এজ এ হিউম্যান আমরা কোথায় যেতে চাই সেটা যদি আমরা ঠিকমতো ম্যাপ আউট না করি তাহলে আসলে আমাদের সামনে যাওয়া দুষ্কর। আর সেজন্য আজকে নিয়ে এলাম আবারও প্রম্পট ইঞ্জিনিয়ারিং বিকজ দিনশেষে প্রম্পট ইঞ্জিনিয়ারিং হচ্ছে গিয়ে সেই ব্যাপার যেটা হচ্ছে গিয়ে আমাদেরকে যন্ত্রকে কাজ করাতে হবে। এখন আমাদের যন্ত্রকে কিভাবে কাজ করাবো বা যন্ত্র আমাদেরকে আমাদেরকে কিভাবে যন্ত্রকে দিয়ে আমরা আসলে ফাইনাল আউটকাম করাবো সেটা আসলে একটা লেভেলে আমাদেরকে বুঝতে পারতে হবে। তবে এটা ঠিক যে যন্ত্র কিন্তু আমাদের সহযোগী মানে যন্ত্র যদি আমাদের সহযোগী না হয় তাহলে আসলে আমরা নেক্সট লেভেলে যেতে পারবো না। কারণ আমরা ধরা যাক আমরা যদি আজকে বিমান না বানাতাম তাহলে আমাদের একটা এক্সটেনশন আমাদের একটা এক্সটেনশন যে মানুষ এক জায়গা থেকে আরেক জায়গায় খুব দ্রুত যেতে চায় তখনই কিন্তু বিমান। তার মানে হচ্ছে আমরা যদি বিমান না বানাতাম তাহলে কিন্তু আমরা আসলে এই এত অল্প সময়ে আমাদের লাইফটাইমে পৃথিবীর এত দেশ আমরা ঘুরতে পারতাম না। তার মানে হচ্ছে গিয়ে এই কৃত্রিম বুদ্ধিমত্তা এটাও কিন্তু আমাদের একটা এক্সটেনশন আমাদের ইন্টেলিজেন্ট এক্সটেনশন যে এক্সটেনশন দিয়ে আমরা আসলে নেক্সট লেভেলে যাব। আর সেজন্যই কিন্তু আজকের আলাপ হচ্ছে গিয়ে কিভাবে যন্ত্রকে আমরা আউটকাম মানে যন্ত্রকে দিয়ে আমরা কাজ করাবো। এখন সেই যন্ত্রকে দিয়ে কাজ করানোর জন্য আগে আমাদের কি ছিল? আগে ছিল হচ্ছে গিয়ে আমরা একটা কম্পাইলার ব্যবহার করতাম, প্রোগ্রামিং ল্যাঙ্গুয়েজ ব্যবহার করতাম। তারপরে কিন্তু আমরা যন্ত্রের সাথে আমরা ইন্টারেক্ট করতাম। মানে হচ্ছে গিয়ে পিসির সাথে ইন্টারেক্ট করতাম অথবা আমরা যন্ত্রকে দিয়ে যন্ত্রের সাথে আমাদের একটা কমিউনিকেশন হতো হচ্ছে গিয়ে প্রোগ্রামিং ল্যাঙ্গুয়েজ, কম্পাইলার এবং এর পাশাপাশি আরো অন্যান্য অনেক কিছু। আর এখন যেহেতু যন্ত্রকে আমরা ইন্টেলিজেন্ট বানাচ্ছি, যন্ত্রকে আমরা ইন্টেলিজেন্টের একটা লেভেলে আনছি আনছি তো তার মানে হচ্ছে কি যন্ত্রকে আমরা ন্যাচারালি বললেই হবে। যে আমি যন্ত্রকে বললাম ধরা যাক বললাম যে এইটা করে দাও তো। তার মানে হচ্ছে যন্ত্রটা বুঝতেছে। এখন যন্ত্র কিভাবে আমাদের টোন বুঝবে, আমাদের এই কথাগুলো বুঝবে সেটাও একটা একটা লাইনে থাকতে হবে। আমরা যেভাবে প্রোগ্রামিং এর জন্য সিনট্যাক্স মনে রাখি এখানে প্রম্পট ইঞ্জিনিয়ারিং এর জন্য আমাদের কিছু বেসিক ধারণা মনে রাখতে হবে যাতে আমাদের প্রম্পট ইঞ্জিনিয়ারিংটা আরো এক্সপার্ট হয় আরো ভালো আমরা বুঝতে পারি। তো সেখানে আমাদের যে প্রম্পট ইঞ্জিনিয়ারিং এ যেটা বলছে কুইক স্টার্ট আমি যদি এখানে আবার আসি যে প্রম্পট ইঞ্জিনিয়ারিং এর গাইডটা হচ্ছে গিয়ে কুইক স্টার্ট হ্যান্ডবুক ফর ইফেক্টিভ প্রম্পটস। এখানে আমরা আসলে অনেক কিছুই বলা আছে। বাট একটা জিনিস আমি আপনাদেরকে বলতে চাই প্রম্পটিং ইজ অ্যান আর্ট। প্রম্পটিং ইজ অ্যান আর্ট। ইউ লাইকলি নিড টু ট্রাই এ ফিউ ডিফারেন্ট অ্যাপ্রোচেস ফর ইউর প্রম্পটস ইফ ইউ ডোন্ট গেট ইউর ডিজায়ার্ড আউটকাম দা ফার্স্ট টাইম। তার মানে হচ্ছে গিয়ে আপনার যদি প্রম্পটিং এর যে আউটকামটা সেটা যদি আপনার ডিজায়ার্ড না হয় ফর দা ফার্স্ট টাইম দেন ইউ শুড ট্রাই ফিউ ডিফারেন্ট অ্যাপ্রোচেস। যেটা আসলে সব জায়গায় প্রযোজ্য। পৃথিবীর সব কাজে প্রযোজ্য। যেটা আসলে ওনারা বুঝতে পারছেন গুগল তারা বুঝতে পারছেন যে বেসড অন হোয়াট উই হ্যাভ লার্ন ডিউরিং আওয়ার ওয়ার্কস্পেস ল্যাব প্রোগ্রাম। মানে এটা আসলে তাদের নলেজ বা তাদের কাজ করতে করতে তারা আসলে বুঝতে পেরেছে যে বেসড অন হোয়াট উই হ্যাভ লার্ন ডিউরিং আওয়ার ওয়ার্কস্পেস ল্যাব প্রোগ্রাম দা মোস্ট সাকসেসফুল প্রম্পটস এভারেজ এরাউন্ড 21 ওয়ার্ডস। তার মানে হচ্ছে গিয়ে আমরা যদি ব্যাপারটা এভাবে বলি যে আসলে আমাদের এভারেজ যেটা দিয়ে ফাইনাল আউটকাম আমরা আনতে চাই সেই ফাইনাল আউটকাম আনার জন্য আসলে একটা সাকসেসফুল প্রম্পট ক্যান বি এরাউন্ড 21 ওয়ার্ডস। 21 ওয়ার্ডস এবং ইয়েট ইয়েট তারা জিনিসটা বারবার বলছে ইয়েট মানে মানুষ যে প্রম্পটগুলো ট্রাই করে সেটা হচ্ছে গিয়ে লেস দেন নাইন ওয়ার্ডস। ইট ইজ ট্রু। আমরা এখনো আমরা গুগল এর মত করে আমরা এখনো গুগল এর মত করে কিন্তু ট্রাই করি যে একটা প্রম্পটিং তো আসলে বড় হবে। আমরা এখনো গুগল সার্চের মত কিওয়ার্ড দিয়ে আমরা এখানে ট্রাই করি। সো জেনারেটিভ এআই এন্ড অল অফ ইটস পসিবিলিটিস আর এক্সাইটিং বাট ইটস স্টিল নিউ। ইভেন দো আওয়ার মডেলস আর গেটিং বেটার এভরিডে আওয়ার প্রম্পটস ক্যান সামটাইমস হ্যাভ আনপ্রেডিক্টেবল রেসপন্স হুইচ ইজ ট্রু। নতুন জিনিস এরকম তো হবেই। আর সেজন্যই কিন্তু তারা এখানে অনেক কিছুই এখানে তারা নিয়ে আসছে। সো এর আগে আমি দেখিয়েছিলাম যে টেবিল অফ কন্টেন্ট এর মধ্যে কি কি আছে এবং সেখানে আসলে যে জিনিসটা আমি সবসময় বলব যেহেতু আমি নিজে এখন আমি তো আমি কিন্তু এডুকেশনিস্ট না বা আমি আসলে এডুকেটর না বা আমি আসলে এডুকেশন নিয়ে আমরা আমি মিলিটারিতে আমি এডুকেশন নিয়ে কাজ করেছি বিকজ আমি স্কুলে আমার প্রযুক্তিগত স্কুলে আমি আসলে পড়িয়েছি। সো আমি আসলে সেই মানে এর পাশাপাশি আমার আসলে যে জিনিসটা হয়েছে যে আমি যখন ডিপ লার্নিং বিশেষ করে আমি এই বইটা যখন লিখলাম মানে আমি আসলে এই বইটা যখন লিখলাম যে হাতে কলমে পাইথন ডিপ লার্নিং মানে এই বইটা যখন আমি লিখতে গেলাম এই বইটা লিখতে গিয়ে কিন্তু আসলে আমার অনেক অনেক অনেক নলেজ আমাকে একোয়ার করতে হয়েছে এবং একোয়ার করতে করা শুধু ব্যাপার না। ব্যাপার হচ্ছে গিয়ে এইখানে যে জিনিসটা সবচেয়ে বেশি কাজ করেছে যে মানুষ কিভাবে শেখে। মানে আমাকে আসলে প্রথমে দেখতে হয়েছে যে মানুষ কিভাবে শেখে। মানে যন্ত্রকে শেখানোর আগে আমাকে বুঝতে হয়েছে যে আমাকে মানুষ কিভাবে শেখে। যন্ত্র কিভাবে শিখলে যন্ত্রের জন্য এফিশিয়েন্ট হয় আর যন্ত্রের এফিশিয়েন্সিটা আসলে কিভাবে আর নেক্সট লেভেলে নেওয়া যায় এবং তখনই কিন্তু আমি বুঝতে পারলাম যে যন্ত্র যদি যন্ত্রকে যদি নেক্সট লেভেলে নেওয়া যায় তাহলে কেন মানুষকেও নেওয়া যাবে না। আর সেজন্যই কিন্তু আমি আসলে এই বইটা লিখেছিলাম যে কৃত্রিম বুদ্ধিমত্তায় শিক্ষা ব্যবস্থা। এই কৃত্রিম বুদ্ধিমত্তায় শিক্ষা ব্যবস্থা এই বইটা লিখতে গিয়েই কিন্তু আসলে আই গট আই গট মেনি আইডিয়া যে কিভাবে আসলে একটা দেশকে পাল্টানো যেতে পারে। এর পাশাপাশি আমি আসলে যেটা দেখেছি যে একটা লার্নিং মানে শিক্ষা এখন কিভাবে আছে শিক্ষার ফাউন্ডেশন কিভাবে হওয়া উচিত ছিল তারপর হচ্ছে ব্লুমের টু সিগমা প্রবলেম এটা কিন্তু আসলে অসাধারণ একটা জিনিস। পাশাপাশি আমি যেটা মনে করি যে যেকোনো জিনিস শিখতে গেলে তার জন্য আসলে এডাপ্টিভ লার্নিং সিস্টেমটা আসলে কিভাবে কাজ করে না করে এরকম অনেক কিছুই আসলে এখানে আমি আসলে বলেছি। এডাপ্টিভ লার্নিং সিস্টেম ডিজাইনটা কিভাবে করব, এডাপ্টিভ রিফ্যাক্টর কিভাবে কাজ করব এই ধরনের অনেক কিছু আছে। বাট আমি আসলে যে জিনিসটাতে ফেরত আসতে চাই যে দিনশেষে আমার কে যদি একটা কাজ বের করে আনতে হয় কম্পিউটার থেকে বা যন্ত্র থেকে তাহলে কিন্তু আমাকেও বুঝতে হবে যে আসলে কম্পিউটার বা যন্ত্রকে কিভাবে ইজিলি ব্যাপারটা বোঝানো যায় এবং সেখানে আসলে আমরা দেখেছি যে মানুষ যেভাবে শেখে যন্ত্র কিন্তু কোন পার্থক্য নেই। যন্ত্রের মধ্যে ইম্প্রুভিং যে ব্যাপারটা আছে সেখানে আসলে আমরা বলেছি যে একটা ইফেক্টিভ প্রম্পট এবং লার্নিং টু ক্রাফট প্রম্পটস অন দা ফ্লাই মানে যে জিনিসটা হচ্ছে গিয়ে কিভাবে আসলে আমরা করব সেটার জন্য প্রথম কথা হচ্ছে গিয়ে দিস উইল ইম্প্রুভ আওয়ার রাইটিং। দিস উইল অর্গানাইজ ডেটা মানে আমাদের আমরা যেভাবে ডেটাটাকে অর্গানাইজ করতে চাই বিকজ উইদাউট অর্গানাইজিং নাথিং হ্যাপেনস। তারপর হচ্ছে গিয়ে ক্রিয়েট অ্যান অরিজিনাল ইমেজেস। আসলে আমরা একদম মানে আমরা আসলে কি চাই সেই ফাইনালি সেটাকে অরিজিনাল একটা সেটিং এ যেতে হবে। সামারাইজ ইনফরমেশন এন্ড সারফেস ইনসাইট। শুধু সামারাইজ করতে পারলেই হবে না। তার পাশাপাশি ইনসাইট গুলোকে সারফেস করতে হবে। ইনসাইট গুলোকে বের করতে হবে আরকি। ফস্টার মিনিংফুল কানেকশন উইথ কলিগস বিকজ হিউম্যান আমাদের আসলে হিউম্যান আমরা যেহেতু হিউম্যান আমাদেরকে হিউম্যানের সাথেই তো আমাকে একটা মিনিংফুল কানেকশন তৈরি করতে হবে। রিসার্চ আনফ্যামিলিয়ার টপিকস হুইচ ইজ ট্রু। অনেক কিছুই আছে যেটা আসলে আমরা গুগল এ পাই না বা অন্যভাবে পাই না। তারপর হচ্ছে স্পট ট্রেন্ডস হুইচ ইজ ভেরি গুড। আমরা নতুন ট্রেন্ডগুলো বুঝার জন্য সিনথেসাইজ ইনফরমেশন এটা নিয়ে আমি এর আগেও কথা বলেছি এবং আইডেন্টিফাই বিজনেস অপরচুনিটি। সো এই ধরনের অনেক কিছুই আসলে এখানে করা সম্ভব। আসলে দিনশেষে আমরা সবকিছুই করতে চাই উইথ দ্যাট আন্ডারস্ট্যান্ডিং যে হিউম্যান কিভাবে নেক্সট লেভেলে যাবে। হিউম্যান কিভাবে নেক্সট লেভেলে যাবে এবং হিউম্যান কিভাবে যন্ত্রকে সহ নেক্সট লেভেলে যেতে পারবে বা যন্ত্রকে ব্যবহার করে নেক্সট লেভেলে যেতে যেতে পারবে। আজকে এই পর্যন্তই থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ৯ সব বাক্যকে এক লেনথে নিয়ে আসা (প্যাডিং).mp3

আমরা চেষ্টা করছি ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে একটা স্ট্রাকচারড লেভেলিং এ আসার জন্য যেখানে এই প্রতিটা জিনিসকে একটা স্টেপ বাই স্টেপ প্রসেসে বোঝানো যায়। আমরা যদিও এখানে একটা বেসিক লেভেলে আন্ডারস্ট্যান্ডিং বোঝার চেষ্টা করছি তবে এর মধ্যেই ম্যাক্সফট একটা বিশাল কাজ করে ফেলেছে। এ বছরের ফেব্রুয়ারিতে ম্যাক্সফট একটা জেনারেটিভ ল্যাঙ্গুয়েজ মডেল বের করেছে যেটার মধ্যে আছে 17 বিলিয়ন প্যারামিটার। এগুলো নিয়ে অবশ্যই আমরা সামনে আলাপ করব তবে আজকে আমাদের মূল কথা হচ্ছে এনএলপির প্যাডিং নিয়ে। আমরা অবশ্যই আলাপ করেছিলাম যে আমাদের এই সিকুয়েন্স গুলোকে নিউরাল নেটওয়ার্কে যখন পাঠাবো তখন সেটাকে একটা ফিক্সড লেন্থে ফেলে দিতে হবে। আমাদের নিউরাল নেটওয়ার্কে ফিট করার আগে প্রিপ্রসেসিং এই প্যাডিং নিয়ে আলাপ হচ্ছে। আমরা যদি আমাদের করপাসটাকে ধরি সেই করপাসের মধ্যে যতগুলো সেন্টেন্স আছে এবং সেই সেন্টেন্সের মধ্যে সবচেয়ে বড় বাক্যের মধ্যে যতগুলো শব্দ আছে সেটাকে আমরা হিসাব করে যদি প্যাডিং করি তাহলে কিন্তু আমাদের কাজ হয়ে যায়। আমাদের করপাসের মধ্যে চারটা বাক্য এবং চারটা বাক্যের মধ্যে সবচেয়ে বড় বাক্য হচ্ছে সাতটা শব্দের অর্থাৎ সাতটা সিকুয়েন্সের। সবচেয়ে বড় বাক্য হচ্ছে এইবার বইমেলায় আমার সাথে তুমি কি যাবে? প্যাডিং এর ব্যাপারটা এরকম যে আমরা ছোটবেলায় বড়দের জুতো পড়ার চেষ্টা করতাম তখন একটা বা দুটো বা তিনটা মোজা পড়ে কিন্তু আমরা সেই জুতাটা পড়ার চেষ্টা করতাম। মানে বড় জুতার সাথে আমার ছোট পার মধ্যে ফিলার বা প্যাডিং দিয়ে সেই জুতাটা পড়ার চেষ্টা করতাম। আর সেই প্যাডিং হিসেবে আমরা কাজ করাতাম কয়েকটা মোজা বা কাপড়। এই একই কাজ এখানে হবে আমরা এখানে বড় বাক্য এবং ছোট বাক্যের মধ্যে শূন্য দিয়ে ফিলার বা শূন্য দিয়ে প্যাডিং করার চেষ্টা করব। আর এই কাজে আমরা আগের মত tensorflow.keras.preprocessing.sequence থেকে আমরা pad_sequence মেথডটাকে নিয়ে আসবো ইম্পোর্ট করে। এরপর আমাদের করপাস মানে সেন্টেন্সেসকে আমরা পাঠিয়ে দেই প্যাড সিকুয়েন্সের মধ্যে। আমরা সেটার আউটপুট জমা রাখছি প্যাডেডে আর এই সেই প্যাডেডকে যদি আমরা প্রিন্ট করি বাকি সব বাদ দিলাম শুধুমাত্র এই প্যাডেডকে যদি আমরা প্রিন্ট করি তাহলে কি দেখছি? আমাদের চারটা বাক্যের মধ্যে প্রথম দুটো বাক্য হচ্ছে চারটা চারটা সিকুয়েন্সের। পরের বাক্যটা হচ্ছে পাঁচটা সিকুয়েন্স আর শেষের বাক্যটা হচ্ছে সাতটা সিকুয়েন্সে। এখানে যে জিনিসটা আমরা দেখছি যে আমাদের সবচেয়ে বড় বাক্য যেটার মধ্যে সাতটা সিকুয়েন্স বা সাতটা শব্দ ছিল সেটাতে কোন প্যাডিং লাগেনি। এর মানে হচ্ছে আমাদের প্যাডিং লেগেছে কোথায়? অবশ্যই আমাদের প্যাডিং লেগেছে যেই দুটো বাক্য চারটা সিকুয়েন্সে এবং যে বাক্যটার মধ্যে পাঁচটা সিকুয়েন্স আছে। আমরা যদি একটু ভালোভাবে লক্ষ্য করি আমাদের যে চারটা করে সিকুয়েন্সের বাক্য সেখানে চারটা তার মানে হচ্ছে তিনটে। তিনটা স্পট ফাঁকা আছে। তার মানে আমরা সেই তিনটা স্পটকে ফিলাপ করে দিলাম শূন্য দিয়ে। আর এই ফিলাপটা আমরা করছি না এটা pad_sequences এই মেথডটাই করে দিচ্ছে আমাদেরকে। যেহেতু আমাদের নিউরাল নেটওয়ার্ক ফিক্সড লেন্থের ইনপুট চাইছিল আর সে কারণে আমাদের ইনপুট হিসেবে প্রতিটি সিকুয়েন্স আমরা সমান সাইজের করে দিলাম। এর পাশাপাশি আমাদের এই প্যাডিং এ ম্যাক্সিমাম লেন্থ মানে আমাদের এই যে সিকুয়েন্সের একটা ফিক্সড লেন্থ সেই ফিক্সড লেন্থটা শুধু সাত হবে নাকি আরো বেশি হতে পারে সেই প্যারামিটারটাও আমরা টিউন করে নিতে পারবো আমাদের মত করে। যেমন এখানে একটা উদাহরণ আমরা দিয়েছি ম্যাক্স লেন্থ মানে ম্যাক্সিমাম লেন্থ এই প্যাডিং এ 10 হতে পারে কিনা। এর পাশাপাশি আমাদের এই শূন্য দিয়ে প্যাডিং এটা কখন শুরু হবে? এটা কি আমরা সিকুয়েন্সের শুরুতে শূন্য দিব নাকি সিকুয়েন্সের শেষে শূন্য দিব সেই ধরনের প্যারামিটার টিউনিংও কিন্তু আমাদের হাতে আছে। আবার এমন কি হতে পারে যে আমরা একটা প্রোডাক্ট রিভিউ করছি এবং আমরা দেখছি যে প্রথম 80 টা শব্দের মধ্যে আমাদের প্রোডাক্ট রিভিউ এর ম্যাক্সিমাম জিনিসপত্র চলে আসছে তখন কি আমরা পুরো বাক্য মানে সবচেয়ে বড় বাক্য কি নিব নাকি সেটাকে ট্রাঙ্কেট করব? এখন এই ট্রাঙ্কেট করতে গেলে এই ট্রাঙ্কেটটা আমরা সামনে থেকে করব নাকি শেষের দিকে করব সেটাও কিন্তু আমাদের প্যারামিটার টিউনিং এর ব্যাপারগুলো ছেড়ে দেওয়া হয়েছে আমাদের হাতেই। এই সবকিছুর জন্য এই নোটবুকটা দেখলে আপনাদের ধারণা আরো ক্লিয়ার হবে। আজকে এই পর্যন্তই থাকছেন তো সামনে।

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ৭ টোকেনাইজারের কর্পাস থেকে সিকোয়েন্সের লিস্ট.mp3

একটা জিনিস লক্ষ্য করেছেন, আমরা যখন কথা বলি তখন কি আমরা মেপে মেপে কথা বলি? ব্যাপারটা তো আর এরকম না যে আমরা প্রতিটা বাক্যে মেপে মেপে ছয়টার বেশি করে শব্দ বলবো না। এরকম তো ব্যাপারটা না। তবে আমরা যখন ডিপ লার্নিং বা মেশিন লার্নিং এ বিশেষ করে নিউরাল নেটওয়ার্কে আমাদের এই টেক্সটটাকে পাঠাবো তখন তো আমরা আর্বিট্রারিলি একটা বাক্যে ছয়টা শব্দ, আরেকটা বাক্যে নয়টা শব্দ এভাবে তো আর পাঠাতে পারবো না। প্রতিটা জিনিসের একটা সিস্টেম আছে আর যন্ত্রের সিস্টেম তো অবশ্যই থাকবে। মনে আছে আমরা যখন ইমেজ নিয়ে কাজ করছিলাম নিউরাল নেটওয়ার্কে, আমরা ইমেজকে যখন ফিট করছিলাম তখন আমাদের দেওয়া ইমেজগুলোর মধ্যে বিভিন্ন ধরনের সাইজ থাকলেও সেগুলোকে রিসাইজ অথবা প্যাডিং দিয়ে বড় করে নিতাম। আমরা ইমেজের ইন্টারপোলেশন বা জিরো প্যাডিং নিয়ে কাজ করলেও সেটার কিছুটা ধারণা এখানেও চলে আসবে। অনেক কথা হলো, আমরা এখন উদাহরণে চলে আসি। আমাদের এই করপাসে চারটা শব্দের দুটো বাক্য ছিল আগে থেকেই। সেখানে আমরা নতুন একটা বাক্য যোগ করলাম যে বাক্যটা চারটা শব্দ না বরং চারটা জায়গায় ছয়টা করে শব্দ এই বাক্যে যোগ হয়েছে। এই নতুন বাক্য যোগ করার সময় আমরা দেখলাম যে ছটা শব্দের মধ্যে দুটো শব্দ আগে থেকে ছিল। ওয়ার্ড ইন্ডেক্সে দেখলাম আমরা আরো পরে চারটা শব্দ যোগ হয়েছে। আসল কথা হচ্ছে আমাদের করপাসে যেকোনো লেন্থের বাক্য যোগ করা যাবে এবং সেখানে যত শব্দই হোক না কেন সেই বাক্যটা এখানে আমরা যখন যোগ করবো তার ওয়ার্ড ইন্ডেক্সও তৈরি হয়ে যাবে। যেহেতু আমার সব নোটবুকগুলো গিটহাবে আছে আর সে কারণে আপনি এই নোটবুকগুলোকে ফর্কিং করে আপনার মতো করে বিভিন্ন লেন্থের বাক্য দিয়ে করপাস তৈরি করে আপনি চালিয়ে দেখতে পারেন। আমরা গত ভিডিওতে বলেছিলাম যে টেক্সট টু সিকুয়েন্স এই মেথডটাকে ব্যবহার করে আমরা একটা বাক্য থেকে সংখ্যার একটা সিকুয়েন্স তৈরি করবো যাতে সংখ্যার একটা সিকুয়েন্স আমাদের নিউরাল নেটওয়ার্কে ঠিকমতো শিখাতে পারে। আমাদের করপাস মানে সেন্টেন্স এটাকে টেক্সট টু সিকুয়েন্স মেথডে পাঠিয়ে দিলেই কিন্তু সেটা সিকুয়েন্সেস বলে প্রতিটা বাক্য ধরে এক একটা লিস্ট করে ধরে দেবে। এখানে আমাদের নতুন দুটো বাক্য বইমেলায় এলে আমি প্রচুর বই কিনি আর এইবার বইমেলায় আমার সাথে তুমি কি যাবে? এই দুইটোর নতুন সিকুয়েন্স লিস্টে আমি দেখছি 671829 আর আরেকটা হচ্ছে 10 11 12 13 14 15 16। এর অর্থ হচ্ছে প্রতিটা বাক্য ধরে বাক্যের শব্দের সিকুয়েন্স একটা লিস্ট হিসেবে পাঠিয়ে দিচ্ছে আমাদের কাছে। আপনারা নোটবুকের আউটপুট দেখেছেন বাট এর পাশাপাশি আমাদের ওয়ার্ড ইন্ডেক্স এবং সিকুয়েন্সের মধ্যে যে সম্পর্ক সেটা একটা ছবিতে দেখিয়েছি আমরা। আমাদের প্রথম দুটো বাক্য ছিল চারটা করে শব্দ মানে চারটা করে সিকুয়েন্স। এরপরের বাক্যটা ছিল ছয়টা শব্দ মানে ছয়টা সিকুয়েন্স আর সবশেষের বাক্যটা ছিল সাতটা শব্দের। এই সাতটা শব্দের সাতটা সিকুয়েন্স চলে এসেছে এখানে। আমার ধারণা আপনারা এই ওয়ার্ড ইন্ডেক্স এবং এর পাশাপাশি সিকুয়েন্সের লিস্টের এই যোগসূত্রটা আপনারা বুঝতে পেরেছেন। এর অর্থ হচ্ছে আমাদের করপাসে যা থাকবে সেটারই সিকুয়েন্স চলে আসবে। কিন্তু এমন যদি হয় আমরা এমন একটা বাক্য দিলাম যার কিছু শব্দ করপাসে নেই তখন কি হবে? আর সেই আউট অফ ভোকাবুলারি শব্দগুলোর টোকেন নিয়ে আসছি আমরা সামনের ভিডিওতে। থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ১৩ বাংলা পত্রিকার 'জেসন' ফরম্যাট থেকে পাইথন লিস্ট.mp3

আমরা যে জিনিসটা নিয়ে বারবার বলছিলাম যে বাংলায় ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এর সেরকম অ্যাপ্লিকেশন কিন্তু আমরা পাই না। তবে আমি দেখেছি অনেক উদ্যোক্তা তারা নিজেদের মত করে অনেক ধরনের অ্যাপ্লিকেশন নিয়ে আসার চেষ্টা করছেন এই বাংলায়। তবে এ ধরনের এন্ড টু এন্ড অ্যাপ্লিকেশন আনার জন্য বাংলায় প্রচুর ডাটা সেট লাগবে আমাদের এগুলো কাজ এগিয়ে নেওয়ার জন্য। গতবার আমরা বাংলা ডাটা সেটটাকে ডাউনলোড করেছিলাম তবে আজকে এ ব্যাপারে জেসন লাইব্রেরি থেকে কিভাবে পাইথনে ইম্পোর্ট করতে হয় সেগুলো নিয়ে কথা বলব। এর আগেও বলেছি জেসন ডেটা সেটকে সিলেক্ট করার ব্যাপারে আমাদের ইন্ডাস্ট্রির একটা ফিডব্যাক নিয়েছি। সবচেয়ে বড় ব্যাপার হচ্ছে এটা এপিআই হিসেবে অসাধারণ কাজ করে। সামনে আমাদের কানেক্টের সিস্টেম মানে এক সিস্টেম থেকে আরেক সিস্টেম কানেক্টেড এই ব্যাপারটাই কিন্তু বড় হয়ে দাঁড়াবে। তবে বাংলা ডেটা সেট লোড করার আগে আমরা দেখে নিতে চাই এটা পাইথনের অবজেক্ট হিসেবে কিভাবে কাজ করে মেমরিতে। যেহেতু এটা পাইথন আমরা শুরুতেই ইম্পোর্ট করে নিলাম জেসনকে। এটা একটা খুব সাধারণ উদাহরণ যেখানে আমরা পাইথনের কন্টেক্সট ম্যানেজার ব্যবহার করছি একটা ফাইল সেভ করার জন্য। যেটা ওপেন হবে রাইট মোডে আর আমরা ফাইলটার নাম দিচ্ছি data_file.json। সবচেয়ে বড় ব্যাপার হচ্ছে এখানে ডাম্প কিন্তু দুটো পজিশনাল আর্গুমেন্ট দিচ্ছে। বিশেষ করে এই ডেটা অবজেক্টটাকে সিরিয়ালাইজ করতে চাচ্ছে সে আর এই ফাইলটাকে কিভাবে রাইট করে রাখবে সে ডিস্কে। আমরা যেহেতু ফাইলটাকে রাইট করছি ডিস্কে সেই কারণে কিন্তু এখানে আমরা ডাবলু ব্যবহার করছি। আবার যখন একই ফাইলটাকে আমরা ডিস্ক থেকে লোড করে দেখতে চাই তাহলে কিন্তু আমাকে এই একই জিনিস লোড ব্যবহার করে করতে হবে। এখানে ওপেন ব্যবহার করছি আমরা রিড মানে আমরা এই ফাইলটাকে রিড করছি। শেষে আবার ফাইলটাকে দেখছি ডেটা ওয়ান নাম নতুন অবজেক্টে। এর আগেও বলেছি আমরা যখন এই নিউজপেপার ডেটা সেট নিয়ে কাজ করছি সেখানে দুটো লেভেল মানে দুটো লেভেলকে আমরা লিস্ট হিসেবে তৈরি করছি। বিশেষ করে এই ডেটা সেটের যে কন্টেন্ট সেই কন্টেন্টটাকে আমরা বলছি সেন্টেন্সেস আর সেই লেবেল লেবেলগুলোকে আমরা বলছি লেবেলস্। আর এই দুটো লিস্ট হলেই কিন্তু আমাদের চলে যাচ্ছে এই মুহূর্তে। আমরা যেহেতু ডেটা সেটের data_v2.json এই ফাইলটাকে ব্যবহার করছি এটা মূল ডেটা সেট থেকে অনেকটাই ক্লিন। আর যেহেতু এর মধ্যে বাংলা শব্দ আছে সে কারণে আমরা এনকোডিং ইউটিএফ এইট ব্যবহার করছি। আর এই ইউনিকোডের কারণে আমাদের বাংলায় আগের মতো কোন সমস্যা নেই। যেহেতু পুরো ডেটা সেটটাকে আমরা একটা ইটারেট করে পুরো লুপে ফেলে দিচ্ছি এই জেসনে সেখানে এই পাইথনের লিস্ট দুটো অ্যাপেন্ড হতে থাকবে সময়ের সাথে সাথে। আমাদের বুঝতে হবে আমরা যখন ট্রেনিং করাবো তখন এই সেন্টেন্সেস এবং এই লেবেলস্ এই দুটোর মধ্যে প্যাটার্ন বা সম্পর্ক বোঝার জন্য তাদেরকে ট্রেনিং করাতে হবে সামনে। এখানে ডেটা স্টোরকে প্রিন্ট করলে আমরা পুরো জেসন ফাইলটাকে দেখতে পাবো। যেহেতু প্রথম আলোর আর্কাইভ থেকে এই ডেটা সেটটা তৈরি করা হয়েছে সেখানে আপনি দেখছেন অথর ক্যাটাগরি মানে কোন ক্যাটাগরি এই নিউজগুলো। আমাদের নয়টা ক্যাটাগরির মধ্যে সেটা কোন ক্যাটাগরিতে পড়েছে। সেখানে কোন কমেন্ট আছে কিনা অথবা তার মধ্যে কি কন্টেন্ট ছিল সেই নিউজটা কবে পাবলিশ হয়েছে এবং কবে মডিফিকেশন হয়েছিল এই নিউজের সাথে কোন ট্যাগ আছে কিনা সেটা ওখানে দেখাচ্ছে। সবশেষে এই নিউজের টাইটেল এবং ইউআরএলটা যোগ করে দেওয়া হয়েছে এই অবজেক্টে। সুতরাং বুঝতেই পারছেন কেন সবাই জেসনকে পছন্দ করে। কারণ এটা শুধু যন্ত্র নয় মানুষও পড়তে পারে। আজকে এই পর্যন্তই থাকছেন তো সামনে।

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

চ্যাট-জিপিটির শুরুটা কোথায় জেনারেটিভ প্রিট্রেইনড ট্রান্সফরমার Generative Pretrained Transformer.mp3

চ্যাট জিপিটি নিয়ে অনেক প্রশ্ন পাই। আসলে চ্যাট জিপিটি কোথা থেকে উত্থান হলো বা চ্যাট জিপিটি আজকে যে পর্যায়ে আসছে তার পেছনের কারণ কি? এগুলোর প্রশ্নের আসলে উত্তর যদি আমি বলতে চাই এই উত্তরগুলো কিন্তু আমি আসলে লিখেছি ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে। কারণ আজকে চ্যাট জিপিটি এই পর্যায়ে আসবে সেটার কিছুটা ধারণা আমরা পাচ্ছিলাম প্রায় পাঁচ বছর আগে। আর তখনই আসলে এই বইটা বিশেষ করে হাতে কলমে বাংলা ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং মানে এই বইটি লিখেছিলাম একটাই কারণে যে আপনি দেখতে পারেন যে রিকারেন্ট নিউরাল নেটওয়ার্ক থেকে ট্রান্সফরমার মানে যেটা আমি আসলে লিখেছি যে রিকারেন্ট নিউরাল নেটওয়ার্ক থেকে ট্রান্সফরমার। এই যে ব্যাপারটা যে রিকারেন্ট নিউরাল নেটওয়ার্ক ছিল হচ্ছে গিয়ে আগের একটা ধারণা যে আসলে কিভাবে আমাদের এই ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং আসলে নিয়ে কাজ করা যাবে। কারণ ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে কাজ করতে পারতাম না। কারণ আগে আমি আসলে ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে যখন কাজ শুরু করেছিলাম তখন ইট ওয়াজ রিয়েলি রিয়েলি রিয়েলি ডিফিকাল্ট বিকজ দা কম্পিউটেশনাল পাওয়ার এন্ড ডিপ লার্নিং ওয়াজ নট দেয়ার। আই উড সে ডিপ লার্নিং ওয়াজ দেয়ার বাট দেন ডিপ লার্নিং ওয়াজ নট থট টু বি ওয়ান অফ দা স্টেক ইন এনএলপি। এন্ড দেন একচুয়ালি হোয়েন আই রোট দিস, হোয়েন আই রোট দিস আই আন্ডারস্টুড হোয়াট ইজ দা পাওয়ার অফ ডিপ লার্নিং ইন এনএলপি। দ্যাট মিন্স দা পাওয়ার অফ ডিপ লার্নিং ইন ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং। সো দ্যাট ওয়াজ দা স্টার্ট, দ্যাট ওয়াজ দা স্টার্ট। সো আমার মনে হয় যে যারা চ্যাট জিপিটি নিয়ে আলাপ করতে চান বা তারা যারা চ্যাট জিপিটি নিয়ে আপনারা পড়তে চান তাদের জন্য আমি মনে করি যে ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং বোঝার আগে ডিপ লার্নিংটা পড়লে বোঝা যাবে। কারণ ডিপ লার্নিং এর মধ্যে কিন্তু এখানেও ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ব্যাপারটা আছে যে কিভাবে ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ডিপ লার্নিং ব্যবহার করে। আর এই ডিপ লার্নিং যখন আমাদের বোঝা হয়ে যাবে তখন কিন্তু এই ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিংটা আসলে আমরা বুঝতে পারবো যে আসলে ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিংটা কিভাবে আজকে ট্রান্সফরমার এবং ট্রান্সফরমার হুইচ হ্যাজ একচুয়ালি টার্ন ইনটু এ চ্যাট জিপিটি। সো এইজন্যই আমি বলছি যে উই হ্যাভ গন এ লং ওয়ে। আর সবচেয়ে বড় ব্যাপার হচ্ছে যে এই বইগুলো কিনতে হবে না। এই বইগুলো সবগুলোই ইন্টারনেটে পড়া যায়। আর সবচেয়ে বড় ব্যাপার হচ্ছে যে আমরা আসলে বই কেন লিখি? বই লিখি মনের মনের একটা খোরাক যোগাতে যে বই থেকে আসলে আমরা হয়তোবা একটা বই লিখতে আমার যেমন ডিপ লার্নিং বইটি লিখতে আমার এক বছর লেগেছে। ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং বইটা লিখতে আমার ছয় মাস লেগেছে বা আট মাস লেগেছে। সো এই বইটা থেকে আমি হয়তোবা কত টাকা পেয়েছি? হয়তোবা দুই লাখ টাকা। ছয় মাসে একটা বই লিখে যদি দুই লাখ টাকা পাওয়া যায় আর সেই ছয় মাসে যদি আমি আমার সময়টা অন্য জায়গায় ইনভেস্ট করি তাহলে হয়তোবা সেই দুই লাখ টাকার জায়গায় 20 লাখ টাকা আয় করা সম্ভব। সো আসলে বই লেখা হয় বই জাস্ট আমাদের একটা আন্ডারস্ট্যান্ডিং যে কিভাবে সমাজকে ফেরত দেওয়া যায় বা যাতে সমাজে অন্য যারা ইয়াংস্টার আছে তারা আসলে একটা লেভেলে আসতে পারেন। সো এইজন্য আমার মনে হয় যে বইগুলো পড়া উচিত। কারণ বইগুলো সবসময় স্ট্রাকচার ওয়েতে লেখা হয়। আমরা ভিডিওতে অনেক কিছু বলি। বাট দেন হোয়েন ইট কামস টু দা বুক এ বুক ক্যান হেল্প ইউ টু গেট আপ টু দা স্পিড। আর সেই কারণে কিন্তু এই ধরনের বইগুলো নিয়ে আমরা আমরা আলাপ করি। আর সবচেয়ে ফাইনাল যে কথাটা বলবো যে চ্যাট জিপিটি আজকে যেই জায়গায় পৌঁছেছে বা বার্ড গুগল এ বার্ড যে জায়গায় পৌঁছেছে তার পেছনের হিস্টরিটা জানলে আমাদের চ্যাট জিপিটি ব্যবহার করা আরো সহজ হবে। আর এর পাশাপাশি আমি সামনে নিয়ে আসবো প্রম্পট ইঞ্জিনিয়ারিং এবং এই প্রম্পট ইঞ্জিনিয়ারিং নিয়েও একটা বড় আলাপ হবে এই কারণে যে এখন যে এআই সিস্টেমগুলো আসছে সেই এআই সিস্টেমগুলোকে ব্যবহার করতে পারার জন্যই এই প্রম্পট ইঞ্জিনিয়ারিং। মানে এটা একটা বাঘের মতো। এর আগেও বলেছি যে চ্যাট জিপিটি একটা বাঘের মতো। এখন একটা বাঘ বের হয়ে গেছে। বাঘটা আমার সামনে বের হয়ে গেছে। এখন আমি বাঘটাকে যদি ঠিকমতো না চালাতে পারি, আমি বাঘের উপর যদি ঠিকমতো সওয়ার না হতে পারি, আমি বাঘের উপর যদি ঠিকমতো না বসতে পারি এবং বাঘকে যদি ঠিকমতো না চালাতে পারি তাহলে বাঘটা আমাকে খেয়ে ফেলবে। বা চ্যাট জিপিটি বা এ ধরনের এআই সিস্টেম আমার জবটাকে নিয়ে নেবে। সো আই হ্যাভ টু বি রেডি টু আন্ডারস্ট্যান্ড যে এই সিস্টেমগুলোকে কিভাবে ব্যবহার করা যায়। আর এই ব্যবহার করতেই আমি মনে করি যে এআই সিস্টেমগুলোকে ব্যবহার করতে আমাদের লাগবে হচ্ছে গিয়ে প্রম্পট ইঞ্জিনিয়ারিং। যেভাবে গুগল ব্যবহার করতে আমরা জানি যে গুগল শুধুমাত্র সার্চ করলেই হবে না। সার্চের কিন্তু অনেক অ্যাডভান্স প্যারামিটার আছে যেটা আসলে আমার সার্চকে সময় কমিয়ে নিয়ে আসে। আমি যদি একটা সার্চ করতে যদি আমার দুই ঘণ্টা সময় নষ্ট হয় দেন ইটস নট এ সার্চ। সো আই উড রাদার সে আমি সার্চ কিভাবে করতে হয় সেটা যদি আমি জানি হয়তোবা আমি ওই সার্চটাকে আমি হয়তোবা দুই মিনিট বা তিন মিনিটে শেষ করতে পারবো। কিন্তু সার্চ যদি আমি ঠিকমতো না করতে পারি তাহলে আমি দুই ঘণ্টা সময় নষ্ট করব। সো নাউ টাইম ইজ মানি। আজকে এই পর্যন্তই। থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ১১ জেসন ডাটাসেট, বাংলা ক্লাসিফিকেশন.mp3

মনে আছে আমরা যখন মেশিন লার্নিং নিয়ে কাজ শুরু করলাম তখন আমাদের বেশিরভাগ ডাটা সেট ছিল সিএসভি অর্থাৎ কমা সেপারেটেড ভ্যালু ব্যবহার করে একেকটা ডাটা সেট। তবে এটা ঠিক যে আস্তে আস্তে ডাটা সেটগুলো কমপ্লেক্স হচ্ছে এবং একেকটা ডাটা সেটে অনেক ধরনের ইন্ট্রিকেসি মানে অনেক ধরনের সমস্যা জড়িত ইনপুট ডাটা রাখতে হচ্ছে। আগে একেকটা ডাটা সেট আমরা কয়েকটা কলাম রোতেই রাখতে পারতাম কিন্তু এখন কি সেটা পারছি? না পারছি না আর সে কারণে কিন্তু বিভিন্ন ফরম্যাট। সবচেয়ে বড় কথা হচ্ছে এখন আমরা কিন্তু ডাটা সেটগুলোকে কানেক্ট করছি ওয়েবের মাধ্যমে মানে সবকিছুই ইন্টারনেটে বিভিন্ন সিস্টেমে বিভিন্ন সার্ভিসের মাধ্যমে আমরা এক্সেস করছি আর সে কারণেই এই নতুন ধরনের কিছু ফাইলিং সিস্টেম যেটা সব ধরনের ল্যাঙ্গুয়েজের মাধ্যমে ইন্টারচেঞ্জেবল। আজকে facebook কথা বলছে google map এর সাথে google map কথা বলছে twitter এর সাথে twitter কথা বলছে amazon এর সাথে। তার মানে এই ওয়েবে এত বেশি ইন্টারচেঞ্জ আর সেখানে কাজ করছে অসাধারণ কিছু এপিআই। আমরা আগে অনেক ধরনের এপিআই ব্যবহার করলেও এখন রেস্টফুল এপিআই মানে রেস্ট এপিআই অসাধারণ কাজ করছে। আমি নিজে যেহেতু গিটহাবে অনেক কাজ করতে হয় আর এই গিটহাবের এইচটিটিপি এপিআই বিশেষ করে জেসন ফরম্যাটে কাজ করে। আর ওয়েবে এত বেশি মাইক্রোসার্ভিস চালু হয়ে গেছে সেখানে আমাদের এই জেসন এটা ছাড়া আমাদের লাইফ প্রায় অচল। তো আমি কেন জেসন নিয়ে পড়ে গেলাম বিশেষ করে এই ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে কাজ করতে গিয়ে আমরা প্রচুর ডাটা সেট নিয়ে কাজ করেছি যেগুলো নরমালি সিএসভি অথবা টেক্সট ফাইল বাট আমাদের এই মুহূর্তে কিছু নতুন জিনিস শেখা উচিত যেগুলো ইন্ডাস্ট্রিতে অহরহ ব্যবহার হচ্ছে। এটা বলতে চাইছে যে আমাদের যে জেসন জাভাস্ক্রিপ্ট অবজেক্ট নোটেশন প্রায় সব জায়গায় চলছে। সবচেয়ে মজার কথা হচ্ছে এই জেসন এটা খুবই একটা লাইটওয়েট ডাটা ফরম্যাট আর সেটাকে কিন্তু অন্যান্য অনেক ধরনের ল্যাঙ্গুয়েজের মধ্যে পড়া যায়। মনে আছে আমরা আগে এক্সএমএল ব্যবহার করতাম বিভিন্ন এপিআই এর মধ্যে এবং এই এক্সএমএল গুলো পড়া যেত না মানে মানুষ হিউম্যানলি রিডেবল ছিল না মানুষ পড়তে পারতো না আর এটার জন্য একটা আলাদা পার্সার লাগতো। আর সেখানে জেসন হিউম্যানলি রিডেবল মানে মানুষ পড়তে পারে এমনিতেই কোন পার্সার ছাড়াই। আমাদের হাতের স্মার্ট ওয়াচ থেকে শুরু করে আমাদের মোবাইল ফোন, রাসবেরি পাই এবং অন্যান্য ছোটখাটো ডিভাইস সরাসরি ওয়েবে কাজ করছে এই জেসন ফরম্যাটে একটা এপিআই দিয়ে। ওই পাশের সফটওয়্যারে কি ধরনের সিস্টেম ব্যবহার করা হচ্ছে কি ল্যাঙ্গুয়েজ ব্যবহার করছে আই ডোন্ট নিড টু নো। আর সে কারণে এই আমাদের বাংলা ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এর জন্য আমার একটা বাংলা জেসন ফরম্যাটের ডাটা সেট প্রয়োজন ছিল। সবচেয়ে ভালো কথা হচ্ছে আমরা এই বাংলা নিউজপেপার ডাটা সেট পেয়েছি এই ক্যাগল থেকে যা পোস্ট করেছেন জাবির আল নাজির নাবিল বলে একজন ভদ্রলোক। উনি আমার অনুরোধে এটাকে একটু ছোট করে একটা ভার্সন টু রিলিজ করেছেন যেটা অনেক সিম্পলিফাইড আগে থেকে। আগের মতো আমরা চেষ্টা করব এই বাংলা ডাটা সেট থেকে 10 টার মতো একটা ক্যাটাগরিতে ক্লাসিফাই করতে। ঠিক ধরেছেন একটা বাংলা ক্লাসিফিকেশন 10 টা ক্যাটাগরিতে। আজকে এই পর্যন্তই থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ১৪ লেবেলকে সংখ্যায় আনা.mp3

ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে একটা বিশাল মার্কেট প্রেডিকশন আছে 2025 সালের ব্যাপারে। রিসার্চ বলছে 2025 সালে প্রায় 41 বিলিয়ন ডলার একটা মার্কেট হবে এই ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং ঘিরে। আমার ধারণা এটা একটা কনজারভেটিভ প্রেডিকশন বাট মার্কেট আরো বড় হবে। ফিরে আসি আমাদের ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং 14 নাম্বার ভিডিওতে। এর আগে আমরা জেসন ফাইল ফরম্যাটের ভেতরের কন্টেন্ট গুলো দেখছিলাম। আমাদের পাইথন যে সেন্টেন্সেস লিস্টটা আছে সেটার মধ্যে এ ধরনের কন্টেন্টই আছে প্রায় 4 লক্ষ। মনে আছে আমাদের জেসন ফাইলের ভেতরে কিন্তু একটা ক্যাটাগরি এলিমেন্ট ছিল। আর এটাই কিন্তু আমাদের লেভেল। লেভেলস এর মধ্যে আমাদের ইউনিক ক্যাটাগরি দেখতে চাইলে এখানে আমরা ব্যবহার করব পাইথনের সেট ফাংশন। আমরা অংকেও কিন্তু এই সেট নিয়ে কাজ করেছি যার কাজ কিন্তু একই একটা সিকুয়েন্স থেকে ইউনিক জিনিসগুলোকে বের করে নিয়ে আসা। আমাদের লেভেল হিসেবে এখানে কি কি দেখছি? বাংলাদেশ, ইকোনমি, এডুকেশন, এন্টারটেইনমেন্ট, ইন্টারন্যাশনাল, লাইফস্টাইল, অপিনিয়ন, স্পোর্টস এবং টেকনোলজি। যে জিনিসগুলোকে আমরা প্রায় বার বার বলি যে কম্পিউটার এই লেভেলগুলোকে এভাবে চিনবে না। আমাদের কাজের সুবিধার জন্য এই মেশিন লার্নিং এর ব্যাপারে আমরা যদি এই লেভেলগুলোকে সংখ্যায় পরিবর্তন করে দেই তাহলে আমাদের কাজ সহজ হয়ে যাবে। এ ব্যাপারে আমাদের বন্ধু সাইকিট লার্নের প্রিপ্রসেসিং থেকে লেভেল এনকোডারকে নিয়ে আসছি। এই লেভেল এনকোডার কাজ হচ্ছে আমাদের যে টার্গেট লেভেল আছে সেটার ভ্যালুটা জিরো থেকে এন ক্লাস মাইনাস ওয়ান অর্থাৎ আমার নয়টা ক্যাটাগরি থাকলে এটা জিরো থেকে এইট পর্যন্ত সংখ্যায় এনকোড করে দেবে। আর একটা জিনিস বলে রাখি আমাদের ট্রান্সফর্মার যখন ব্যবহার করব এটা কিন্তু শুধুমাত্র টার্গেট ভ্যালুকেই এনকোড করতে চাইবো। এক্স ভ্যালু নয়। সাধারণভাবে আমরা এক্স কে ফিচার বলি আর ওয়াই কে টার্গেট ভ্যালু বলি। আমাদের নিউজ ডেটা সেটের যে লেভেল গুলোর ভেতরে ক্যাটাগরি আছে সেগুলোকে ট্রান্সফর্ম করার আগে আমরা নিজেরাই টেস্ট এন্ড ট্রায়াল করি কিছু টয় ডেটা দিয়ে। এখানে আমরা চারটা ক্যাটাগরিকে লেভেল ফিট করলেও সেখানে কিন্তু ইউনিকভাবে তার ক্লাসে তিনটাই দেখাচ্ছে। অর্থাৎ ঢাকা, ঢাকা, দিনাজপুর, রংপুর সে কিন্তু এখানে ক্লাসে ঢাকা, দিনাজপুর, রংপুরই দেখাচ্ছে। আমরা এখানে কি করছি? আমরা আসলে লেভেল এনকোডার অবজেক্টকে ইনস্ট্যানশিয়েট করছি এবং ফাইনালি ফিট ট্রান্সফর্ম করে ডেটাকে আমাদের মত করে এনকোড করে নিচ্ছি। আমাদের এখানে লেভেলগুলোকে ট্রান্সফর্ম করতে চাইলে যেমন ঢাকা, ঢাকা, দিনাজপুর, রংপুর এখানে ট্রান্সফর্ম লেভেলগুলোকে নরমালাইজ করে 0012 দিয়ে এনকোড করে ফাইনালি ট্রান্সফর্ম করে দিচ্ছে সংখ্যায়। আর এই জিনিসটাকে আমরা যখন নিউজ ডেটা সেটে নিয়ে আসবো তখন এই লেভেলগুলো আপনি যদি দেখতে পারছেন সেখানে ফিট ট্রান্সফর্ম ব্যবহার করে আমরা পাচ্ছি জিরো থেকে এইট পর্যন্ত সংখ্যায় নতুন লেভেল। যেটা মডেলের জন্য কম্পিউটেশন করতে সুবিধা হবে। আজকে এই পর্যন্তই থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং, টোকেনাইজেশন - ০৪.mp3

আমরা সহজ বাংলায় বাংলা ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এর চার নাম্বার ভিডিওতে চলে এসেছি। এটা ঠিক যে এর আগেরগুলো পডকাস্ট ছিল এখন থেকে ভিডিও সিরিজ শুরু হলো। আমরা বারবার বাচ্চাদের এবং কম্পিউটারের উদাহরণ দিয়েছিলাম যে বাচ্চারা কোন ধরনের অক্ষর জ্ঞান বা ব্যাকরণ না জেনেই কিন্তু একটা কমপ্লিট বাক্য বলতে পারত। কারণ মানুষের মাথার নিউরাল নেটওয়ার্ক আশেপাশের ভাষা থেকে তাদের প্যাটার্ন বুঝে কিন্তু সেটা জানার চেষ্টা করত। আমাদের আগের সিরিজগুলোতে যেগুলো আলাপ করেছিলাম তার মধ্যে আমরা বলছিলাম যে অক্ষর জ্ঞান বা ব্যাকরণ মানে কোন ধরনের রুল সেট শিখিয়ে এনএলপি করা যাবে না। আমরা একটা বাক্য থেকে বাক্যের ভাবার্থ বা বাক্যের যে সিমেন্টিক এনালাইসিস সেটা আমরা কিভাবে বের করার চেষ্টা করব। এর প্রথম পন্থা হচ্ছে বাক্যের শব্দগুলোকে মিনিংফুল ইউনিটে ভাগ করে ফেলা। আর এই ব্যাপারটাকে বলা হচ্ছে টোকেনাইজেশন। শুরুতেই এনএলপির দুটো প্রিন্সিপাল নিয়ে যেহেতু আলাপ করছি তার মধ্যে প্রথম যেটা আমরা বলছি টোকেনাইজেশন সেটার কিছু উদাহরণ দেখি এখানে। বাংলার ইউনিকোড ক্যারেক্টার নিয়ে আলাপ করার আগে আমরা এটার একটা রেঞ্জ মানে 128 টা কোড পয়েন্টের রেঞ্জ নিয়ে দেখতে পারি। আমরা এখানে দেখছি যে 96 টা কোড পয়েন্ট অ্যালোকেটেড আছে যার মধ্যে 32 টা এখনো রিজার্ভ আছে। মানে টোটাল 128 টা কোড পয়েন্ট। যেহেতু একটা শব্দের সবচেয়ে স্মলেস্ট পসিবল কম্পোনেন্ট হচ্ছে একটা ক্যারেক্টার। সেখানে ইউনিকোড স্ট্যান্ডার্ড একটা ক্যারেক্টারকে রিপ্রেজেন্ট করা হয় তার কোড পয়েন্ট দিয়ে। আমাদের কোড পয়েন্টগুলো যেহেতু একটা ইন্টেজার ভ্যালু যেটা শুরু হয় শূন্য থেকে একটা হেক্সাডেসিমেল পর্যন্ত যেটাকে আমরা বলছি প্রায় 1.1 মিলিয়ন ভ্যালু। আমাদের অক্ষরগুলোর কোড পয়েন্ট এখানে আমরা দেখছি অ এবং ক তার অ্যাসোসিয়েটেড কোড পয়েন্ট এখানে দেওয়া আছে। এখন চলে আসি শব্দের ব্যাপারে। আমরা দুটো শব্দের কথা নিয়ে আলাপ করছি। একটা হচ্ছে কলস আরেকটা হচ্ছে সকল। দুটোরই ইউনিকোড কোড পয়েন্ট কিন্তু একই। আমরা এই দুটো শব্দকে নাম পাই অথবা টেন্সর ফ্লোর কোড পয়েন্ট দিয়ে দেখি। এখান থেকে কোন ধরনের ভাবার্থ বা ভাব আমরা বুঝতে পারছি না। এর মানে হচ্ছে অক্ষর দিয়ে এনকোড করলে কোন ধরনের আলাদা সুবিধা পাচ্ছি না বরং এখান থেকে কোন ধরনের ভাব আমরা বুঝতে পারছি না। এতক্ষণ অনেক ধরনের আলাপ করলাম তবে এখন আমরা আসি শব্দকে এনকোড করতে। আমাদের সামনে দুটো বাক্য আমি ভালোবাসি বই পড়তে। আমি ভালোবাসি বই লিখতে। এই মুহূর্তে আমার লেখা ডিপ লার্নিং মানে টেন্সর ফ্লো নিয়ে ডিপ লার্নিং বইটা অনলাইনে আছে আর সে কারণে আমরা টেন্সর ফ্লো এপিআই দিয়ে এই কাজটা করব। আমরা যেহেতু টেন্সর ফ্লোর এপিআই ব্যবহার করছি আর সে কারণে টোকেনাইজারকে যখন ইনস্ট্যানশিয়েট করছি সেখানে কয়েকটা হাইপার প্যারামিটার বলে দিচ্ছি আগে থেকেই। আমাদের কর্পাস বিল্ড করতে হলে আমরা নাম ওয়ার্ডস মানে যে ধরনের শব্দগুলোকে বারবার ফ্রিকোয়েন্টলি ইউজ করা হবে সেগুলোকে আমরা স্টোর করব এখানে। সে কারণে আমাদের উদাহরণে আমরা শুরুতে মাত্র 10 টা শব্দকে স্টোর করতে বলব ফ্রিকোয়েন্টলি ইউজড শব্দ। সাধারণত আমাদের এই ফিল্টারস হাইপার প্যারামিটার ব্যবহার করতে হয় না কারণ টেন্সর ফ্লো বাই ডিফল্ট অনেক লম্বা একটা স্টপ ওয়ার্ড ফিল্টার করে রাখে। যেহেতু আমরা বাংলা নিয়ে ব্যবহার করছি বাংলাতে স্টপ ওয়ার্ড দাড়ি যেহেতু কোথাও নেই সে কারণে আমরা এটাকে এক্সপ্লিসিটলি আলাদাভাবে যোগ করছি। এখানে ভালো করে লক্ষ্য করুন আমরা যখন ফিট অন টেক্সট এই মেথডটাকে কল করলাম তখনই কিন্তু আমাদের বাক্যকে সে প্রপারলি এনকোড মানে লেভেলিং করে দিচ্ছে সংখ্যায়। সবশেষে আমরা যেটা দেখছি এখানে ওয়ার্ড ইন্ডেক্স মেথডটা ডিকশনারির মতো জোড়া জোড়া কি ভ্যালু তৈরি করে দিচ্ছে। আমাদের বাক্যের শব্দগুলোর মধ্যে একটা কি আর তার সাথে পেয়ার ভ্যালু। আমি এক ভালোবাসি দুই বই তিন পড়তে চার। এর অর্থ হচ্ছে টোকেনাইজার একটা ওয়ার্ড ইন্ডেক্স মানে ডিকশনারির মতো করে কি এবং ভ্যালু পেয়ার। আমি এক ভালোবাসি দুই বই তিন পড়তে চার অলরেডি বের করে দিয়েছে। আজকে এই পর্যন্তই থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং (এনএলপি) - ০১.mp3

শুরুতেই বলে নিচ্ছি আজকে ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এর প্রথম পডকাস্ট। পডকাস্ট কেন? আমরা তো শুরুতে হাতে কলমে ভিডিওতে দেখতে চাইবো। ভালো প্রশ্ন। তবে গত চারটা বই লিখে আমার যেটা ধারণা হলো, আমরা অবশ্যই হাতে কলমে মেশিন লার্নিং বা ডিপ লার্নিং বোঝার চেষ্টা করব। তবে সেই পুরো জিনিসটার পেছনে যে ফিলোসফি বা যে ব্যাকগ্রাউন্ডের ইনফরমেশন, সেটার ফিলোসফি বা ধারণা পাওয়ার জন্য হাতে কলমে কোনোকিছু প্রয়োজন নেই এই মুহূর্তে। আবারও বলছি, আমাদের এ ব্যাপারে আর্টিফিশিয়াল ইন্টেলিজেন্ট এক্সপার্ট অথবা ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এর বোদ্ধা হওয়ার প্রয়োজন নেই। পুরো ব্যাপারটাকে কন্টেক্সচুয়ালাইজেশন লেভেলে আনার জন্য আমি উদাহরণ নিয়ে আসছি আমাদের বাচ্চাদের। ভালো করে লক্ষ্য করলে দেখবেন যে একটা মেশিন আর বাচ্চার শেখার প্রসেসের মধ্যে কোনো পার্থক্য নেই। আমাদের বাচ্চাগুলো যখন কথা বলা শুরু করেছিল তখন সে ভাষার কোনো ধরনের গ্রামার সম্বন্ধে জানা তো দূরের কথা, কোনো অক্ষর সম্বন্ধে তাদের কোনো ধারণা ছিল না। তারা বিশেষ করে আমরা মানে বাবা-মা বা আত্মীয়-স্বজন সবার কাছ থেকে বিভিন্ন শব্দের স্যাম্পেল শুনে শুনে কিছুটা তৈরি করার চেষ্টা করত তাদের মাথার ভেতরে। এর অর্থ হচ্ছে তারা শব্দগুলো ঠিকমতো ডিকোড করার ধারণা পাওয়ার আগে মানে কোন শব্দগুলো কি অথবা শব্দগুলোর কোন অক্ষর দিয়ে তৈরি, কোনটার সাথে লাগালে কিভাবে ভাব প্রকাশ হবে সেটা না বুঝেই বিভিন্ন শব্দ জোড়া লাগিয়ে তারা কথা বলার চেষ্টা করত। আর সে কারণে অনেক সময় সে বাক্যগুলো মিনিংফুল হতো আর বাকি সময় হতো না। এর অর্থ হচ্ছে একটা বাক্যে কিভাবে শব্দগুলো জোড়া লাগিয়ে নাউন, প্রোনাউন, ভার্ব, এডজেক্টিভ না জেনে এমন কিছু তারা তৈরি করত যা অনেক সময় মিলে যেত। আর যখন মিলত না তখন আমরা মানে বাবা-মা সেটাকে কারেকশন করে দিতাম। এরপর কয়েকদিন সে ভুলভাল বলেই আস্তে আস্তে ঠিক করে নিত তার শুরুর বাক্য তৈরির স্টাইল। যে জিনিসটা লক্ষ্য করার মতো তারা সবকিছুই করত কোন ধরনের অক্ষর বা গ্রামার সম্বন্ধে নূন্যতম ধারণা না নিয়েই। আর সে কারণে আপনারা দেখবেন যে আমরা যখন ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং নিয়ে কাজ করব, সেখানে অক্ষর বা গ্রামার নিয়ে আমরা মাথা ঘামাই না। বরং শব্দগুলোর সিকোয়েন্স ম্যাটার করে বেশি। আমরা দেখেছি একই শব্দ আগে পরে বসলে মানে পাল্টে যায়। আর সেটা আমরা শুনবো সামনের পডকাস্টে। থাকছেন তো সামনে?

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং

সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং, টোকেনাইজেশন - ০৫.mp3

আমাদের ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং, মেশিন লার্নিং বা ডিপ লার্নিং এর মত কনসেপ্ট হেভি কোড লাইট। আমরা যদি ঠিকমত কনসেপ্টটা বুঝতে পারি তাহলে আমাদের কোডিংটা অনেক সময় কমে যাবে। গত ভিডিওটা আমরা একটু সামারাইজ করি। আমরা টেনসরফ্লো এবং কেরাসের কিছু প্রিপ্রসেসিং টুল নিয়ে আলাপ করেছিলাম। এখানে যেহেতু আমরা দুটো কেরাস প্রিপ্রসেসিং টুল নিয়ে কাজ করব তবে আমরা টোকেনাইজার ক্লাস নিয়ে আলাপ করেছি বেশি। যেহেতু আমরা বারবার বলছিলাম যে একটা বাক্যের মিনিংফুল ইউনিট হচ্ছে শব্দ। সে কারণে আমরা টোকেনাইজার ক্লাসটাকে ব্যবহার করব এই টোকেনাইজেশন পার্টটাকে পুরোপুরি অটোমেট করতে। আপনারা ভালোভাবে লক্ষ্য করলে বুঝবেন যে আমাদের যে টোকেনাইজেশনের ওয়ার্ড ইন্ডেক্স সেটাকে কিন্তু আমরা বসাইনি। সেটা বরং বের করে দিয়েছে আমাদের টোকেনাইজারের অবজেক্ট। যেহেতু এটা একটা টয় ডেটা সে কারণে আমাদের ট্রেনিং এর সময় নাম্বার অফ ওয়ার্ডস মাত্র 10 টা রেখেছি। আমরা এখানে যে ফিট অন টেক্সট করলাম সেটা করেছি কিন্তু ট্রেনিং ডেটার উপরে। আমরা যেটা দেখেছি এই টোকেনাইজেশন প্রসেসের একটা বাই প্রোডাক্ট হচ্ছে একটা ওয়ার্ড ইন্ডেক্স তৈরি করা যেটাকে আমরা বলতে পারি আমাদের শব্দগুলোর সাথে একটা নিউমেরিক রিপ্রেজেন্টেশন ম্যাপিং করা হয়েছে। বলে রাখা ভালো এই ম্যাপিংটাই কিন্তু আমরা সামনে ব্যবহার করব আমাদের সিকুয়েন্সকে এনকোডিং করার জন্য। আমাদের আগের ভিডিওতে আমরা একটা বাক্য রেখেছিলাম ট্রেনিং ডেটাতে। আমি ভালোবাসি বই পড়তে। আজকের ট্রেনিং ডেটাতে আমরা আরেকটা বাক্য যোগ করছি যেটাকে আমি বলছি আমি ভালোবাসি বই পড়তে। আমরা যখন হিউম্যানলি এই দুটো বাক্যকে পড়ছি সেখানে আমরা বুঝতে পারছি যে আমার ভালোবাসা বই নিয়ে। কিন্তু এরপরেও আরো দুটো জিনিস আছে। আমার ভালোবাসাটা কি নিয়ে? পড়তে এবং লিখতে। দুটো বাক্যের মধ্যে সিমিলারিটির মধ্যে যেই জায়গাতে ডিসসিমিলারিটি সেটা আমরা বলছি পড়তে এবং লিখতে। এখানে মজার কথা হচ্ছে আমরা যখন আবার ফিট অন টেক্সট চালালাম এই বাক্যের ওপর আমরা বলছি আমাদের এই নতুন দুটো বাক্যের ওপর ওয়ার্ড ইন্ডেক্স করলেও কিন্তু আমরা দেখছি আমি ভালোবাসি বই এটার নিউমেরিক রিপ্রেজেন্টেশন আগের মতোই আছে। বরং এখানে সিমিলারিটি অংশগুলোকে ঠিক রেখে আমি ভালোবাসি বই এরপরে পড়তে ইন্ডেক্স চার লিখতে ইন্ডেক্স পাঁচ নতুন দুটো ভ্যালু দিয়ে ম্যাপিং করা হয়েছে। ব্যাপারটা আরো ভালো বোঝা যাবে যখন আমরা ওয়ার্ড কাউন্টটাকে দেখছি। আমাদের ডিকশনারির অর্ডারটা এখানে ভালোভাবে বোঝা যাচ্ছে। আমরা অনেক কিছু দেখলাম তবে আমাদের টোকেনাইজারের কনফিগারেশন না দেখলে আমাদের আজকের ভিডিওটা অসম্পূর্ণ হয়ে থাকবে। আমাদের টোকেনাইজার যে ওয়ার্ড কাউন্ট ডিকশনারি ব্যবহার করছে সেটাকে সিরিয়াল করে প্লেইন জেসনে ফেলে দিচ্ছে। আর সে কারণে এই কনফিগারেশনটা পড়া যাবে অন্য যেকোনো প্রজেক্ট থেকে। আমরা যেহেতু এখানে ক্যারেক্টার লেভেলে এনকোডিং করছি না সে কারণে এটা ফলস হিসেবে এসেছে। বুঝতেই পারছেন ফিল্টার, ইন্ডেক্স টক, ইন্ডেক্স ওয়ার্ড কিভাবে এসেছে এখানে। এখানে যেই জিনিসটি ইন্টারেস্টিং ওওভি টোকেন মানে আমরা বলছি আউট অফ ভোকাবুলারি টোকেন যেটা নিয়ে আমরা আলাপ করছি সামনেই। থাকছেন তো সামনে?