### ±ä±Þ) LLMOps ¿£Áö´Ï¾î (3³â ÀÌ»ó) - ±¹³» À¯¸í Ä«µå»ç - ÃÖ¿ì´ë ###
¢º Æ÷Áö¼Ç : LLMOps ¿£Áö´Ï¾î
¢º ¾÷¹«³»¿ë
- »ý¼ºÇü AI ¹× ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) ¼ºñ½ºÀÇ ¿î¿µ¡¤¹èÆ÷¡¤¸ð´ÏÅ͸µ(LLMOps) ü°è ±¸Ãà
- LLM ±â¹Ý AI ¿¡ÀÌÀüÆ® ¹× ¼ºñ½ºÀÇ ¼º´É¡¤ºñ¿ë¡¤¾ÈÁ¤¼º °ü¸®
- Ãß·Ð ÆÄÀÌÇÁ¶óÀÎ, »çÈÄ ÇнÀ, ¸ðµ¨ ¹öÀü °ü¸® µî LLM ¿î¿µ Ç¥ÁØ ¼ö¸³
- RAG, Tool Calling, Agent Workflow ±â¹Ý LLM ¼ºñ½º ¿î¿µ ¹× °íµµÈ
- Ŭ¶ó¿ìµå/¿ÂÇÁ·¹¹Ì½º ȯ°æ¿¡¼ÀÇ LLM Ãß·Ð ¼ºñ½º ÀÚµ¿È ¹× Àå¾Ö ´ëÀÀ
- ¾çÀÚÈ(Quantization) µî LLM Ãß·Ð ÃÖÀûÈ ±â¹ýÀ» Ȱ¿ëÇÑ ºñ¿ë¡¤¼º´É È¿À²È
- Ŭ¶ó¿ìµå ȯ°æ¿¡¼ AI ¿¡ÀÌÀüÆ® °³¹ß¡¤¹èÆ÷ ȯ°æ ¼³°è ¹× DevOps ü°è ±¸Ãà
¢º ÀÚ°Ý¿ä°Ç
- ÄÄÇ»ÅͰøÇÐ, ÀΰøÁö´É, µ¥ÀÌÅÍ µî °ü·Ã Àü°ø Çлç ÀÌ»ó
- LLM ¶Ç´Â ML ¼ºñ½º ¿î¿µ(MLOps/LLMOps) °æÇè 3³â ÀÌ»ó
- Python ±â¹Ý AI/µ¥ÀÌÅÍ ÆÄÀÌÇÁ¶óÀÎ °³¹ß ¹× ¿î¿µ °æÇè º¸À¯
- Ŭ¶ó¿ìµå ¶Ç´Â ÇÁ¶óÀ̺ø Ŭ¶ó¿ìµå ȯ°æ¿¡¼ÀÇ ¼ºñ½º ¼³°è¡¤¿î¿µ °æÇè º¸À¯
¢º Çʿ俪·®
- LLM ¼ºù ¹× Ãß·Ð ÆÄÀÌÇÁ¶óÀÎ ¿î¿µ °æÇè
- VLLM, SGLang µî LLM Ãß·Ð ÇÁ·¹ÀÓ¿öÅ© Ȱ¿ë °æÇè
- RAG ±â¹Ý LLM ¼ºñ½º ¿î¿µ ¹× ǰÁú °ü¸® ¿ª·®
- ÄÁÅ×ÀÌ³Ê ±â¹Ý ¼ºñ½º ¼³°è ¹× ¿î¿µ ¿ª·®
- CI/CD ÆÄÀÌÇÁ¶óÀÎ ¼³°è ¹× ¿î¿µ °æÇè
- ÄÁÅ×ÀÌ³Ê À̹ÌÁö ºôµå¡¤º¸¾È Á¡°Ë µî ¹èÆ÷ ½ÂÀÎ ÇÁ·Î¼¼½º ¼³°è °æÇè
- ·Î±×¡¤¸ð´ÏÅ͸µ ±â¹Ý Àå¾Ö ºÐ¼® ¹× ¼ºñ½º ¾ÈÁ¤È °æÇè
- ¼ºñ½º ǰÁú °³¼±À» À§ÇÑ »çÈÄ ÇнÀ(Post-training) Àû¿ë ¹× ¿î¿µ °æÇè
- AWQ, LoRA, Speculative Decoding µî LLM ¾çÀÚÈ ±â¹Ý Ãß·Ð ÃÖÀûÈ Àû¿ë °æÇè
¢º ¿ì´ë¿ª·®
- GPU ÀÚ¿ø °ü¸® ¹× Ãß·Ð ¼º´É¡¤ºñ¿ë ÃÖÀûÈ °æÇè
- ´ë±Ô¸ð Æ®·¡ÇÈ ¶Ç´Â ¿£ÅÍÇÁ¶óÀÌÁî AI ¼ºñ½º ¿î¿µ °æÇè
- ±ÝÀ¶±Ç ¶Ç´Â ±ÔÁ¦ »ê¾÷ ȯ°æ¿¡¼ÀÇ AI ¼ºñ½º ¿î¿µ °æÇè
- AI ¿¡ÀÌÀüÆ®(Agentic Workflow) ¼³°è ¹× ¿î¿µ °æÇè
- SFT, PEFT, RLHF, DPO µî »çÈÄ ÇнÀ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØ ¶Ç´Â ½Ç¹« °æÇè
- ¿î¿µ Áß ¼öÁýµÈ ·Î±×¡¤Çǵå¹é ±â¹Ý ¸ðµ¨ °³¼± »çÀÌŬ ±¸Ãà °æÇè
- °³ÀÎÁ¤º¸ º¸È£, º¸¾È ÅëÁ¦, ³»ºÎ °¨»ç ´ëÀÀ °æÇè
- ºñ°ø°³ VPC, IAM ÃÖ¼Ò±ÇÇÑ ¼³°è µî º¸¾È ¾ÆÅ°ÅØÃ³ ±¸Ãà °æÇè
¢º ±Ù¹«Áö : ¼¿ï ¿©Àǵµ
¢º ±Ù¹«ÇüÅ : °è¾àÁ÷
* ÀÏÁ¤±â°£ °æ°ú ÈÄ º°µµ ½É»ç¸¦ µ¿ÇØ ÀϹÝÁ÷¿ø(Á¤±ÔÁ÷¿ø) Àüȯ ±âȸ ºÎ¿©
¡Ø¡Ø ºü¸¥ Áö¿ø ºÎʵ右´Ï´Ù. ÀûÀÓÀÚ Áö¿ø½Ã ¹Ù·Î ¸¶°¨¿¹Á¤. Á¶±â¸¶°¨ ¿¹»ó~!!! (("ÇöÀç ÁøÇàÁß"))ÀÎ °ø°íÀÓ ¡Ø¡Ø
¡¼ ¿¬ºÀ ¡½ ÇùÀÇ °¡´É (ÀûÀÓÀÚ ÃÖ¿ì´ë)
¡¼ ÀüÇüÀýÂ÷ ¡½ ¼·ùÀüÇü ÈÄ ¸éÁ¢ÀüÇü
¡¼ Á¦Ãâ¼·ù ¡½
**********************************************************
¡Ú ±¹¹®À̷¼, °æ·Â±â¼ú¼, ÀÚ±â¼Ò°³¼ ...... MS WORD·Î ÀÛ¼º ÈÄ 1°³ÀÇ ÈÀÏ·Î ¼ÛºÎ ¹Ù¶ø´Ï´Ù.
¡Ú Á¦Ãâó : jamie @ humarain.co.kr
¡Ú ¹®ÀÇó : Jamie ( ***-****-**** )
¡Ø ¹Ýµå½Ã À̷¼ ¼ÛºÎ ÈÄ °¡±ÞÀû À̸ÞÀÏ·Î ¹®ÀǺÎŹµå¸³´Ï´Ù. (ÀæÀº ¹ÌÆÃ°ú ÃâÀåÀ¸·Î ÅëȰ¡ ¾î·Æ½À´Ï´Ù.)
¡Ø¡Ø Áö¿øÀ̷¼ °ËÅä ÈÄ ÀûÀÓÀÚ¿¡ ÇÑÇØ °³º°¿¬¶ôÇÏ¿© ȸ»ç¸í ¿ÀÇÂÀÌ µÇ¿À´Ï ¸¹Àº ¾çÇØºÎʵ右´Ï´Ù. ¡Ø¡Ø
**********************************************************
¡Ø¡Ø ¹Ýµå½Ã, »çÁøù±, »ý³â¿ùÀÏ, ¾÷¹«»ó°Á¡, ÁÖ¿ä¾÷¹«¼º°ú, °æ·Â¾÷ü¼Ò°³(¸ÅÃâ,Àοø,¾÷Á¾ µî) ÇöÀç/Èñ¸Á¿¬ºÀ, ÀÌÁ÷°¡´É½Ã±â ±âÀçé© ¡Ø¡Ø
¡Ø¡Ø À̷¼ ±âÀç³»¿ë ¹× Á¦Ãâ¼·ù¿¡ ÇãÀ§»ç½ÇÀÌ È®ÀεǴ °æ¿ì ÇÕ°ÝÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù. ¡Ø¡Ø