### ±ä±Þ) LLMOps ¿£Áö´Ï¾î (3³â ÀÌ»ó) - ±¹³» À¯¸í Ä«µå»ç - ÃÖ¿ì´ë ###


¢º Æ÷Áö¼Ç : LLMOps ¿£Áö´Ï¾î


¢º ¾÷¹«³»¿ë

- »ý¼ºÇü AI ¹× ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) ¼­ºñ½ºÀÇ ¿î¿µ¡¤¹èÆ÷¡¤¸ð´ÏÅ͸µ(LLMOps) ü°è ±¸Ãà
- LLM ±â¹Ý AI ¿¡ÀÌÀüÆ® ¹× ¼­ºñ½ºÀÇ ¼º´É¡¤ºñ¿ë¡¤¾ÈÁ¤¼º °ü¸®
- Ãß·Ð ÆÄÀÌÇÁ¶óÀÎ, »çÈÄ ÇнÀ, ¸ðµ¨ ¹öÀü °ü¸® µî LLM ¿î¿µ Ç¥ÁØ ¼ö¸³
- RAG, Tool Calling, Agent Workflow ±â¹Ý LLM ¼­ºñ½º ¿î¿µ ¹× °íµµÈ­
- Ŭ¶ó¿ìµå/¿ÂÇÁ·¹¹Ì½º ȯ°æ¿¡¼­ÀÇ LLM Ãß·Ð ¼­ºñ½º ÀÚµ¿È­ ¹× Àå¾Ö ´ëÀÀ
- ¾çÀÚÈ­(Quantization) µî LLM Ãß·Ð ÃÖÀûÈ­ ±â¹ýÀ» Ȱ¿ëÇÑ ºñ¿ë¡¤¼º´É È¿À²È­
- Ŭ¶ó¿ìµå ȯ°æ¿¡¼­ AI ¿¡ÀÌÀüÆ® °³¹ß¡¤¹èÆ÷ ȯ°æ ¼³°è ¹× DevOps ü°è ±¸Ãà


¢º ÀÚ°Ý¿ä°Ç

- ÄÄÇ»ÅͰøÇÐ, ÀΰøÁö´É, µ¥ÀÌÅÍ µî °ü·Ã Àü°ø Çлç ÀÌ»ó
- LLM ¶Ç´Â ML ¼­ºñ½º ¿î¿µ(MLOps/LLMOps) °æÇè 3³â ÀÌ»ó
- Python ±â¹Ý AI/µ¥ÀÌÅÍ ÆÄÀÌÇÁ¶óÀÎ °³¹ß ¹× ¿î¿µ °æÇè º¸À¯
- Ŭ¶ó¿ìµå ¶Ç´Â ÇÁ¶óÀ̺ø Ŭ¶ó¿ìµå ȯ°æ¿¡¼­ÀÇ ¼­ºñ½º ¼³°è¡¤¿î¿µ °æÇè º¸À¯


¢º Çʿ俪·®

- LLM ¼­ºù ¹× Ãß·Ð ÆÄÀÌÇÁ¶óÀÎ ¿î¿µ °æÇè
- VLLM, SGLang µî LLM Ãß·Ð ÇÁ·¹ÀÓ¿öÅ© Ȱ¿ë °æÇè
- RAG ±â¹Ý LLM ¼­ºñ½º ¿î¿µ ¹× ǰÁú °ü¸® ¿ª·®
- ÄÁÅ×ÀÌ³Ê ±â¹Ý ¼­ºñ½º ¼³°è ¹× ¿î¿µ ¿ª·®
- CI/CD ÆÄÀÌÇÁ¶óÀÎ ¼³°è ¹× ¿î¿µ °æÇè
- ÄÁÅ×ÀÌ³Ê À̹ÌÁö ºôµå¡¤º¸¾È Á¡°Ë µî ¹èÆ÷ ½ÂÀÎ ÇÁ·Î¼¼½º ¼³°è °æÇè
- ·Î±×¡¤¸ð´ÏÅ͸µ ±â¹Ý Àå¾Ö ºÐ¼® ¹× ¼­ºñ½º ¾ÈÁ¤È­ °æÇè
- ¼­ºñ½º ǰÁú °³¼±À» À§ÇÑ »çÈÄ ÇнÀ(Post-training) Àû¿ë ¹× ¿î¿µ °æÇè
- AWQ, LoRA, Speculative Decoding µî LLM ¾çÀÚÈ­ ±â¹Ý Ãß·Ð ÃÖÀûÈ­ Àû¿ë °æÇè
 

¢º ¿ì´ë¿ª·®

- GPU ÀÚ¿ø °ü¸® ¹× Ãß·Ð ¼º´É¡¤ºñ¿ë ÃÖÀûÈ­ °æÇè
- ´ë±Ô¸ð Æ®·¡ÇÈ ¶Ç´Â ¿£ÅÍÇÁ¶óÀÌÁî AI ¼­ºñ½º ¿î¿µ °æÇè
- ±ÝÀ¶±Ç ¶Ç´Â ±ÔÁ¦ »ê¾÷ ȯ°æ¿¡¼­ÀÇ AI ¼­ºñ½º ¿î¿µ °æÇè
- AI ¿¡ÀÌÀüÆ®(Agentic Workflow) ¼³°è ¹× ¿î¿µ °æÇè
- SFT, PEFT, RLHF, DPO µî »çÈÄ ÇнÀ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØ ¶Ç´Â ½Ç¹« °æÇè
- ¿î¿µ Áß ¼öÁýµÈ ·Î±×¡¤Çǵå¹é ±â¹Ý ¸ðµ¨ °³¼± »çÀÌŬ ±¸Ãà °æÇè
- °³ÀÎÁ¤º¸ º¸È£, º¸¾È ÅëÁ¦, ³»ºÎ °¨»ç ´ëÀÀ °æÇè
- ºñ°ø°³ VPC, IAM ÃÖ¼Ò±ÇÇÑ ¼³°è µî º¸¾È ¾ÆÅ°ÅØÃ³ ±¸Ãà °æÇè
 

¢º ±Ù¹«Áö : ¼­¿ï ¿©Àǵµ 


¢º ±Ù¹«ÇüÅ : °è¾àÁ÷
* ÀÏÁ¤±â°£ °æ°ú ÈÄ º°µµ ½É»ç¸¦ µ¿ÇØ ÀϹÝÁ÷¿ø(Á¤±ÔÁ÷¿ø) Àüȯ ±âȸ ºÎ¿©
 

¡Ø¡Ø  ºü¸¥ Áö¿ø ºÎʵ右´Ï´Ù. ÀûÀÓÀÚ Áö¿ø½Ã ¹Ù·Î ¸¶°¨¿¹Á¤. Á¶±â¸¶°¨ ¿¹»ó~!!!  (("ÇöÀç ÁøÇàÁß"))ÀÎ °ø°íÀÓ ¡Ø¡Ø


¡¼ ¿¬ºÀ ¡½ ÇùÀÇ °¡´É (ÀûÀÓÀÚ ÃÖ¿ì´ë)


¡¼ ÀüÇüÀýÂ÷ ¡½ ¼­·ùÀüÇü ÈÄ ¸éÁ¢ÀüÇü


¡¼ Á¦Ãâ¼­·ù ¡½

**********************************************************
¡Ú ±¹¹®À̷¼­, °æ·Â±â¼ú¼­, ÀÚ±â¼Ò°³¼­ ...... MS WORD·Î ÀÛ¼º ÈÄ 1°³ÀÇ È­ÀÏ·Î ¼ÛºÎ ¹Ù¶ø´Ï´Ù.

¡Ú Á¦Ãâó : jamie @ humarain.co.kr

¡Ú ¹®ÀÇó : Jamie ( ***-****-**** )

¡Ø ¹Ýµå½Ã À̷¼­ ¼ÛºÎ ÈÄ °¡±ÞÀû À̸ÞÀÏ·Î ¹®ÀǺÎŹµå¸³´Ï´Ù. (ÀæÀº ¹ÌÆÃ°ú ÃâÀåÀ¸·Î ÅëÈ­°¡ ¾î·Æ½À´Ï´Ù.)

¡Ø¡Ø Áö¿øÀ̷¼­ °ËÅä ÈÄ ÀûÀÓÀÚ¿¡ ÇÑÇØ °³º°¿¬¶ôÇÏ¿© ȸ»ç¸í ¿ÀÇÂÀÌ µÇ¿À´Ï ¸¹Àº ¾çÇØºÎʵ右´Ï´Ù. ¡Ø¡Ø 

**********************************************************

¡Ø¡Ø ¹Ýµå½Ã, »çÁøù±, »ý³â¿ùÀÏ, ¾÷¹«»ó°­Á¡, ÁÖ¿ä¾÷¹«¼º°ú, °æ·Â¾÷ü¼Ò°³(¸ÅÃâ,Àοø,¾÷Á¾ µî) ÇöÀç/Èñ¸Á¿¬ºÀ, ÀÌÁ÷°¡´É½Ã±â ±âÀçé© ¡Ø¡Ø

¡Ø¡Ø À̷¼­ ±âÀç³»¿ë ¹× Á¦Ãâ¼­·ù¿¡ ÇãÀ§»ç½ÇÀÌ È®ÀεǴ °æ¿ì ÇÕ°ÝÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù. ¡Ø¡Ø