ÀúÈñ ºÎ¼´Â ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM)ÀÇ Ãß·Ð ½Ã½ºÅÛÀ» °³¹ßÇϰí ÃÖÀûÈÇÏ¿© °í¼º´É API ¼ºñ½º¸¦ Á¦°øÇÏ´Â °ÍÀ» ¸ñÇ¥·Î ÇÕ´Ï´Ù.
ÀúÈñ´Â vLLM, TRT-LLM, SGLang µî ¿ÀǼҽº ÀÎÆÛ·±½º ¿£ÁøÀ» Ȱ¿ëÇÏ¿© È¿À²ÀûÀÎ ¸ðµ¨ ¼ºùÀ» ±¸ÇöÇϰí, ÃֽŠÇϵå¿þ¾î(H100, A100, Gaudi2 µî)¿Í ¼ÒÇÁÆ®¿þ¾î ½ºÅÃÀ» ÅëÇÕÇÏ¿© ¾ÈÁ¤ÀûÀ̰í È®Àå °¡´ÉÇÑ ½Ã½ºÅÛÀ» ±¸ÃàÇÕ´Ï´Ù.
À̸¦ ÅëÇØ ´Ù¾çÇÑ ¼ºñ½º¿¡ °íǰÁúÀÇ LLM ±â´ÉÀ» Á¦°øÇϰíÀÚ ÇÕ´Ï´Ù.
- vLLM ±â¹Ý LLM Ãß·Ð ¿£ÁøÀÇ ¼º´É ÃÖÀûÈ ¹× ±â´É °³¹ß
- Tensor Parallelism, FlashAttention, Speculative Decoding µî Ãֽбâ¹ýÀ» Ȱ¿ëÇÑ Ãß·Ð ¼º´É Çâ»ó
- GPU Ŭ·¯½ºÅÍ(llm-d, K8s, Helm, LWS µî) ȯ°æ¿¡¼ÀÇ ´ë±Ô¸ð LLM ¼ºñ½º ¿î¿µ ¹× ÃÖÀûÈ
- LangChain, RAG µî ÃֽŠÇÁ·¹ÀÓ¿öÅ©¸¦ Ȱ¿ëÇÏ¿© agentic AI °³¹ß ¹× ±âÁ¸ ½Ã½ºÅÛ ÅëÇÕ
- Llama Stack ±â¹ÝÀÇ Application SDK °³¹ß ¹× API ¼ºñ½ºÈ
- ´ë±Ô¸ð LLM ¸ðµ¨ÀÇ Ãß·Ð ¶Ç´Â ÇнÀ ½Ã½ºÅÛ °³¹ß °æÇèÀ» º¸À¯ÇϽŠºÐ
- LLM Ãß·Ð ÃÖÀûÈ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØ ¹× Àû¿ë °æÇèÀ» º¸À¯ÇϽŠºÐ
- C/C++ ¹× Python¿¡ ´ëÇÑ ¼÷·Ãµµ¿Í ¸Þ¸ð¸® °ü¸®¿¡ ´ëÇÑ ÀÌÇØµµ°¡ ÀÖÀ¸½Å ºÐ
- º¹ÀâÇÑ ¹®Á¦¸¦ ü°èÀûÀ¸·Î ºÐ¼®Çϰí ÇØ°áÇÒ ¼ö ÀÖ´Â ´É·ÂÀ» °®Ã߽ŠºÐ
- Kubernetes ±â¹ÝÀÇ Å¬·¯½ºÅÍ È¯°æ¿¡¼ÀÇ ¼ºñ½º ¿î¿µ °æÇèÀ» º¸À¯ÇϽŠºÐ
- vLLM, TRT-LLM, SGLang µî LLM Ãß·Ð ¿£Áø °³¹ß °æÇèÀ» º¸À¯ÇϽŠºÐ
- Speculative Decoding, FlashAttention µî ÃֽŠÃß·Ð ÃÖÀûÈ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØµµ°¡ ÀÖÀ¸½Å ºÐ
- H100, A100, Gaudi2 µî ÃֽŠAI °¡¼Ó±â Çϵå¿þ¾î¿¡ ´ëÇÑ °æÇèÀ» º¸À¯ÇϽŠºÐ
- LLM ±â¹ÝÀÇ API ¼ºñ½º °³¹ß ¹× ¿î¿µ °æÇèÀ» º¸À¯ÇϽŠºÐ
- LLM Ãß·Ð ÃÖÀûÈ¿¡ ´ëÇÑ ¿¬±¸ ¶Ç´Â ¿ÀǼҽº ±â¿© °æÇèÀ» º¸À¯ÇϽŠºÐ
¼·ùÀüÇü ¹× »çÀü °úÁ¦ > ÇʱâÀüÇü(ÄÚµùÅ×½ºÆ®) > ¸éÁ¢ÀüÇü > ÀÎÅϽÊ
¡Ø ÀÔ»ç Áö¿ø ½Ã »çÀü °úÁ¦¸¦ ÇÔ²² Á¦ÃâÇÏ¿©¾ß Çϸç, ¸éÁ¢ ÀüÇü¿¡¼ °úÁ¦¿¡ ´ëÇÑ ¹ßÇ¥°¡ ÁøÇàµÉ ¿¹Á¤ÀÔ´Ï´Ù.
¡Ø ÀüÇüÀýÂ÷´Â ÀÏÁ¤ ¹× »óȲ¿¡ µû¶ó º¯µ¿µÉ ¼ö ÀÖÀ¸¸ç, ÀüÇüº° °á°ú¿¡ µû¶ó ÀýÂ÷°¡ Ãß°¡µÉ ¼ö ÀÖ½À´Ï´Ù.
¡Ø ¸éÁ¢ ¾È³»´Â ÃßÈÄ ¸éÁ¢ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.
¼·ù Á¢¼ö ±â°£: 2025³â 7¿ù 24ÀÏ(¸ñ¿äÀÏ) ~ 2025³â 8¿ù 4ÀÏ(¿ù¿äÀÏ) ¿ÀÈÄ 6½Ã
°æ±âµµ ¼º³²½Ã ºÐ´ç±¸ ºÒÁ¤·Î 6 (±×¸°ÆÑÅ丮)
¡Ø ±Ù¹«Áö´Â ȸ»ç ³»ºÎ »çÁ¤¿¡ µû¶ó º¯°æµÉ ¼ö ÀÖ½À´Ï´Ù.
2025³â 9¿ù Áß ~ 2025³â 11¿ù Áß (¾à 3°³¿ù ±Ù¹« °¡´ÉÀÚ)
ÁÖ 5ÀÏ (10:00~19:00)
¡Ø ÀÎÅÏ½Ê »ó¼¼ ±Ù¹« ±â°£Àº ÃßÈÄ ÃÖÁ¾ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.
- º» ÀÎÅϽÊÀº ä¿ëÀüÁ¦ÇüÀÌ ¾Æ´Ñ üÇèÇü ÀÎÅϽÊÀ¸·Î, ÀÎÅÏ½Ê ±â°£ÀÌ ³¡³ª¸é °è¾à Á¾·áµË´Ï´Ù.
- ÀÔ»çÁö¿ø¼ ÀÛ¼º Àü Áö¿øÀÚ°ÝÀ» È®ÀÎÇØ Áֽñ⠹ٶó¸ç, Áö¿ø¼¿¡ ±âÀçµÈ ³»¿ë Áß ÇãÀ§»ç½ÇÀÌ ÀÖ´Â °æ¿ì¿¡´Â ÇÕ°ÝÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù.
- º» °ø°í´Â ÀÎÀç ¼±¹ß ¿Ï·á ½Ã Á¶±â ¸¶°¨µÉ ¼ö ÀÖÀ¸¸ç, ÇÊ¿ä½Ã ¸ðÁý ±â°£ÀÌ ¿¬ÀåµÉ ¼ö ÀÖ½À´Ï´Ù.
- Á¦ÃâµÈ Áö¿ø¼´Â ·Î±×ÀÎ ÈÄ [My page- Áö¿ø ÇöȲ]¿¡¼ È®ÀÎ °¡´ÉÇϸç, °ø°í ¸¶°¨ Àü±îÁö ȨÆäÀÌÁö¿¡¼ ¼öÁ¤ ¹× Áö¿ø öȸ°¡ °¡´ÉÇÕ´Ï´Ù.
- ±¹°¡À¯°øÀÚ ¹× Àå¾ÖÀÎ µî Ãë¾÷º¸È£ ´ë»óÀÚ´Â °ü°è¹ý·É¿¡ µû¶ó ¿ì´ëÇÕ´Ï´Ù.
- ±¹°¡À¯°øÀÚÀÇ °¡»êÁ¡ ºÎ¿©¸¦ ¹Þ±â À§Çؼ´Â º»ÀÎÀÌ 'Ãë¾÷Áö¿ø ´ë»óÀÚ Áõ¸í¼'¸¦ ȸ»ç¿¡ Á¦ÃâÇØ¾ß ÇÕ´Ï´Ù.
- Á¦ÃâÇØ ÁֽŠÁö¿ø¼ÀÇ °ËÅä °á°ú ¹ßÇ¥´Â Áö¿ø¼¿¡ µî·ÏÇϽŠÀ̸ÞÀÏ·Î °³º° ¾È³»µå¸³´Ï´Ù.
- ¹®ÀÇ»çÇ×Àº NAVER Cloud ä¿ë ȨÆäÀÌÁö Áö¿ø ¹®ÀÇ·Î Á¢¼öÇØ Áֽñ⠹ٶø´Ï´Ù.