මෑත කාලයේ AI ක්ෂේත්‍රයේ විශාල පෙරළියක් ඇති කිරීමට සමත් වුණ, මෙන්ම Nvidia සමාගමේ වටිනාකම ඩොලර් බිලියන ගනන් අහිමි කල Deepseek Ai ගැන අපි ඔබ වෙත ගෙන ආ ලිපිය ඔබ දැනටමත් කියවා ඇති බව නිසකයි.
Kusal Dissanayaka
මෙයට හේතුව වු මේ Deepseek Ai කියන එක Open Source ප්‍රොජෙක්ට් එකක්. ඒ නිසා අපිට මේ Deepseek Model එක අරන් පාවිච්චි කරන්න, වෙනස් කරන්න වගේම අපේම දෙයක් අලුතින් නිර්මාණය කරන්න පුලුවන්.
අද අපි කරන්න යන්නේ මෙන්න මේ Open Source Project එක අපේ PC එකේ Download කරලා Offline Run කරන්න.
එහෙම කරන එකෙන් ලැබෙන වාසි?
- ප්‍රධාන වශයෙන්ම අපි, මේ AI එකත් එක්ක හුවමාරු කරන Data Americaවලට වත් Chinaට වත් කොහෙටවත්ම යන්නේ නෑ. (Data privacy)
- මේක අපිට Offline Use කරන්න පුලුවන්. අන්තර්ජාල සම්බන්දතාවයක් අවශ්‍ය වෙන්නෙ නෑ.
- ඔයාට අවශ්‍ය වෙන විදියට Customize කරගෙන විවිධ වැඩ වලට ගන්න පුලුවන්.
අපිට තියන Limitations?
- ප්‍රධානම දේ තමයි මේ වැඩේට අපිට ලොකු Memory Space එකක් සහ ලොකු Computational Power එකක් යනවා.
- ඊලඟ දේ තමයි අලුත් Updates අපිට ලැබෙන්න නැති වෙන එක. (Offline Use කරන නිසා)
දැන් අපි පටන්ගමු.
මුලින්ම අපි Ollama Software එක Download කර ගන්න ඕන. Ollama කියන්නෙ අපිට මේ large language models (LLMs) Local machine එකේ Run කරන්න හදපු Open-Source tool එකක්. (Available for Windows, Linux ,mac)
මේක Intstall කරන්න ඔයාගේ PC එකේ මුලින්ම.
දැන් CMD Open කරගෙන ollama කියල Type කරලා Enter කරන්න.
මෙහෙම command list එක එනවානම් හරියට install වෙලා තියෙන්නෙ. දැන් ollama Website එකෙන් ඔයා කැමති model එකක් තෝරගෙන Download කර ගන්න පුලුවන්.
අපිට කීපයක් උනත් Download කරලා කැමති එකක් Run කර ගන්න පුලුවන්. මෙතන තියෙනවා ගොඩක් large language models (LLMs). llama3, Gemma වගේ ගොඩක් ඒවත්. ඉතින් දැන් අපි ඩවුන්ලෝඩ් කරන්නෙ Deepseek එකනේ. ගොඩක් වෙලාවට ඒක උඩින්ම පෙන්නයි.
ඒකට ගිහින් ඔයාට කැමති Parmeters ගානක එකක් තෝර ගන්න පුලුවන්. 1.5b ( Parameters බිලියන 1.5 Model එක) , 7b,8b,මේ වගේ 671b වගේ ගොඩක් තියෙනව.
හැබැයි මේ Parameters ගාන වැඩි වෙද්දින් උඩ Screenshot එකේ තියෙනව වගේ මේ Model එකේ Size එකත් වැඩි වෙනවා. 671b model එක 404GB නේ 🤒.
ඉතින් මේ ලොකු model තමයි ගොඩක් නිවැරදිව උත්තර දෙන්නෙ. පොඩි ඒවගේ පොඩි පොඩි Data මඟහැරීම් තියෙනව. (ඒත් සාපේක්ෂව හොඳයි)
ඉතින් මම Download කරන්නෙ 1.5b model එක (1.1GB). මේක Copy කරගෙන CMD එකේ Run කරන්න.
දැන් ඔයාගෙ PC එකට Download වෙයි මේක .
ඉවර උනාම ඔයාට මෙහෙම Interface එකක් එයි.
දැන් ඔයාට Internet අවශ්‍ය නැතිව මේ large language models (LLMs) Use කරන්න පුලුවන්. මොනා හරි දෙයක් Type කරලා අහන්න එයාගෙන්. එතකොට Locally අපේ Machine එකේ Run වෙලා එයා Answer එකක් Generate කරලා දෙනවා.
ඔයාට දිගටම message send කරලා එන response එක බලා ගන්න පුලුවන්.මේකෙන් අයින් වෙන්න නම් /bye කියලා send කරන්න ඕන.
ඔයාගේ Model List එක බලා ගන්න ඕන නම්, ollama list කියල ගහන්න. ආයම Run කරන්න නම් ollama run [model එකේ නම] දෙන්න.
Ex:
ollama run deepseek-r1:1.5bඉතින් මේක Use කරලා, ඔයට තනියම Web Interface එකකට Link කර ගන්න වගේම ඔයාට හිතෙන දෙයක් කරන්න පුලුවන්. කැමති අය Download කරලා try කරලා බලන්න. ඒ නැතත් මෙහෙම දෙයක් කරන්න පුලුවන් කියලා ඔයාල දැන් දන්නවානේ.
ආය දවසක හම්බවෙමු.
