ON-DEVICE AI? ?? ?? : ?? ?? CLI ??
??? ?? AI ??? ??? ?? ???? ???. ???? ??? ? ?? ??? ???? ?? ??? ? ?? AI ???? ??? ?? ??? ? Alex? ???????. SLM (Small Language Models)? ?? ??? Alex? ?? ?? ?????. ? ??? Huggingf ??? ??? ??, ??? ???? ??? ??? ??? ??? AI ???? ?????. Op-Device ai? ??? ?????!
?? ?? ?? :
- Huggingface Smollm ??? ??? ?? ????? ??????.
- Op-Device AI ?? ????? SLM ??? ??????.
- SLM ???? ??? GQA (Grouped-Query ??)? ??????.
- Typer ? Rich ?????? ???? ??? CLI ?? ????? ??????.
- ??? AI ??????? ?? Huggingface ??? Langchain? ??????.
?? :
- Huggingface Smollm ??
- ??? ? ?? ?? (GQA)
- GQA ?? ?? ???
- Smollm ??
- ??? ??
- ??? ??
- ???? ??
- ?? ?? ???? ??
- ?? ?? ??
Huggingface Smollm : ? ??? ??
Smollm? ? ?? ?? (135m, 360m ? 1.7b ?? ??)? ???? ??? ??? ?? ?? ?????. ??? ??? (Cosmopedia v2-?? ???, ?? ??? ?? ? ?? ? ???? ??)? ?? ????? ??? ??? ?? ?? ?? ? ?? ??? ??? ?? ???? ???? Huggingface? ??? ?? ???? ?? ??? ?????.
?? ?? :
?? ?? :
135m ? 360m ?? ?? ??? Mobilellm? ?? ????? ???? GQA? ???? ? ?? ?? ?? ??? ????.
GQA (Grouped-Query??) : ??? ???
?? ????? ??? ??? ?????.
- ?? ???? (MHA) : ? ???? ??? ? ??, ? ? ?? ??? ????.
- ?? ???? (MQA) : ?? ? ? ?? ??? ????? ? ??? MHA?? ? ???? ?? ??? ?????.
- GQA (Grouped-Query Arection) : ?? ??? ? ? ?? ??? ???? ????? ??? ??????. ??? ???? ??????. ?? ?? ?? ??? ??? ??? ???? ??? ????? ???? ??????.
GQA? ??? ?????
GQA? ? ?? ??? ? ? ? ??? ?????? ??? ????? ?? ???? ??????. ??? ? ??? ?? ? ?? ???? ???? ??? ?????.
?? ?? ?? :
- GQA-G : G ??? GQA.
- GQS-1 : MQA? ??? ?? ?? ???.
- GQA-H : ??? ?? MHA? ????? ?? ?? ????.
GQA? ?? :
- ?? ?? : ?? ?? ????? ? ?? ??.
- ??? ?? : ??? ?? ??, ??? ?? ? ?? ??.
- ??? ?? : ??? ???? ??? ?????.
Smollm? ?????
PIP? ???? Pytorch ? Transformers? ??????.
PIP Torch Transformers? ??????
?? ?? ? ?? ( main.py ? ??)? smollm-360m-instruct ??? ????? (?? ??? ??? ? ??).
Transformers?? AutoTokenizer? AutomodElforcausAllm? ????? Checkpoint = "HuggingFacetb/Smollm-360m-instruct" # ... (?? ????? ?? ??? ???)
?? ?? :
(?? ??? ??? ??? ????? ?? ??? ????? ?? ? ??? ???? ?? ?? ? ?? ??? ????? ??? ?? (??, ???? ??, ?? ?? ???? ? FAQ)? ??????.
? ??? Huggingface Smollm?? ?? AI ??? ??? ??? ?? ?????. ??? ??? PHP ??? ????? ?? ?? ??? ?????!
? AI ??
Undress AI Tool
??? ???? ??
Undresser.AI Undress
???? ?? ??? ??? ?? AI ?? ?
AI Clothes Remover
???? ?? ???? ??? AI ?????.
Clothoff.io
AI ? ???
Video Face Swap
??? ??? AI ?? ?? ??? ???? ?? ???? ??? ?? ????!
?? ??
??? ??
???++7.3.1
???? ?? ?? ?? ???
SublimeText3 ??? ??
??? ??, ???? ?? ????.
???? 13.0.1 ???
??? PHP ?? ?? ??
???? CS6
??? ? ?? ??
SublimeText3 Mac ??
? ??? ?? ?? ?????(SublimeText3)
AGI? AI Superintelligence? ?? ?? ?? ??? ?? ?????.
Jul 04, 2025 am 11:10 AM
??? ?? ??????. ???? AI ??? ??? ??? ??? ??? AI ???? ???? ???? ?? ???? AI? ?? Forbes ? ??? ????? (?? ?? ??). AGI? ??? ????
Kimi K2 : ?? ??? ?? ?? ???? ??
Jul 12, 2025 am 09:16 AM
?? ? Genai ??? ?? ? ?? ?? ?? ??? ??? ??????? DeepSeek? ???? ?? ??? ?? ??? Kimi K1.5? ???? ???? ?? ? ??????. ??? ??? ?? ??????.
Grok 4 vs Claude 4 : ?? ?? ? ?????
Jul 12, 2025 am 09:37 AM
20125 ? ???? AI“?? ??”? ???? ??? Xai? Anthropic? ???? ?? ? Grok 4? Claude 4? ??????.? ? ??? ??? ??? ?? ???? ??? ?? ????.
?? ??? ??? ?? ??? ?? ? ???? ?? ??? ? ??
Jul 04, 2025 am 11:11 AM
??? ?? ? ???? : ??? AI? ?? ??? ???? ???? AI? ??? ???? ????? ??, ???? ? ???? ?? ??? ?????.
???? ??? ? ??? ????? ?? AI ???? ????.
Jul 03, 2025 am 11:16 AM
7 ? 1 ? ?? ??? ?? ??? ?? ?? ??? 5 ??? ??? ???? ??? ????? ??? ?? ? ?? ? ?? ??????.
??? ?? ??? ?? ?? ??? ??? ?? 10 ?
Jul 16, 2025 am 11:12 AM
??? ??? ??? 10 ?? ??? ??? ?? ????. ???, ???? ???? ??? ?? ??? ? ?? ??? ?? ? ??? ?? ?? ??? ????. ?? ? ? ?? ?? ??? ??? ?? ??? T?? ??? ?? ?????.
???? ?????? ' New ' ???? ?????
Jul 12, 2025 am 09:33 AM
?? ?? ???? ?????? ?? ?? ?? (LLM)? ?? ???? ? ??? ??? ???????. ??? ??? LLM? ??? ???? ?? ??????. ??? ??? ??
Chip Ganassi Racing? OpenAI? Mid-Ohio Indycar ???? ??????
Jul 03, 2025 am 11:17 AM
???? ?? ??? ?? ?? ?? ? ?? ? Openai? 3 ?? NTT IndyCar ??? ???? 2025 ???? ??? 500 ??? Alex PA? ??? No. 10 Chip Ganassi Racing (CGR) Honda? ?? ???? ??? ????.
