Біз MustaqiLLM-ді жасадық — өзбек LLM

Бүгін біз үшін маңызды күн. Біз өзбек тіліне арнап нөлден жасалған MustaqiLLM моделін таныстырамыз.

Бұл бар шетелдік модельді жай ғана қосымша үйрету емес. Модельді өзіміз жобалап, нөлден үйреттік.

Модель

• 5 миллиард параметр
• 40 миллиард токеннен тұратын көптілді деректер жиыны
• 48 000 токенді BPE токенизаторы
• Өзбек тіліне арнайы бейімделген
• Grouped-Query Attention
• QK-Normalization
• Ұзын контекстпен жұмыс істеуге дайын архитектура

Тәуелсіз LLM неліктен маңызды?

AI бүгінгі цифрлық инфрақұрылымның маңызды бөлігіне айналып жатыр. Сондықтан өз тіліміз бен деректерімізбен жұмыс істейтін, өзіміз түсініп, дамытып және басқара алатын модельдерді жасау стратегиялық тұрғыдан маңызды.

Бұл өзбек тілінің AI-дегі дамуына ғана емес, жергілікті AI экожүйесіне, деректер қауіпсіздігіне және болашақ AI технологияларына дербес үлес қоса алу қабілетімізге де әсер етеді.

MustaqiLLM — соңғы нүкте емес. Біз оның білімін, пайымдауын және тілдік мүмкіндіктерін жетілдіруді жалғастырамыз.

Алғашқы өзбек LLM-іне апарар маңызды кезең

MustaqiLLM тілімізбен, деректерімізбен және жергілікті қажеттіліктермен жұмыс істейтін тәуелсіз AI-ды дамытуға арналған. Біз оны алғашқы өзбек LLM-іне апарар жолдағы маңызды белес деп санаймыз.

Модель салмақтары Hugging Face-та қолжетімді: NeuronUz/MustaqiLLM

© NeuronAI Team