ºÎ¼­¼Ò°³

ÀúÈñ ºÎ¼­´Â ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM)ÀÇ Ãß·Ð ½Ã½ºÅÛÀ» °³¹ßÇϰí ÃÖÀûÈ­ÇÏ¿© °í¼º´É API ¼­ºñ½º¸¦ Á¦°øÇÏ´Â °ÍÀ» ¸ñÇ¥·Î ÇÕ´Ï´Ù.

ÀúÈñ´Â vLLM, TRT-LLM, SGLang µî ¿ÀǼҽº ÀÎÆÛ·±½º ¿£ÁøÀ» Ȱ¿ëÇÏ¿© È¿À²ÀûÀÎ ¸ðµ¨ ¼­ºùÀ» ±¸ÇöÇϰí, ÃֽŠÇϵå¿þ¾î(H100, A100, Gaudi2 µî)¿Í ¼ÒÇÁÆ®¿þ¾î ½ºÅÃÀ» ÅëÇÕÇÏ¿© ¾ÈÁ¤ÀûÀ̰í È®Àå °¡´ÉÇÑ ½Ã½ºÅÛÀ» ±¸ÃàÇÕ´Ï´Ù.

À̸¦ ÅëÇØ ´Ù¾çÇÑ ¼­ºñ½º¿¡ °íǰÁúÀÇ LLM ±â´ÉÀ» Á¦°øÇϰíÀÚ ÇÕ´Ï´Ù.

´ã´ç¾÷¹«

- vLLM ±â¹Ý LLM Ãß·Ð ¿£ÁøÀÇ ¼º´É ÃÖÀûÈ­ ¹× ±â´É °³¹ß

- Tensor Parallelism, FlashAttention, Speculative Decoding µî Ãֽбâ¹ýÀ» Ȱ¿ëÇÑ Ãß·Ð ¼º´É Çâ»ó

- GPU Ŭ·¯½ºÅÍ(llm-d, K8s, Helm, LWS µî) ȯ°æ¿¡¼­ÀÇ ´ë±Ô¸ð LLM ¼­ºñ½º ¿î¿µ ¹× ÃÖÀûÈ­

- LangChain, RAG µî ÃֽŠÇÁ·¹ÀÓ¿öÅ©¸¦ Ȱ¿ëÇÏ¿© agentic AI °³¹ß ¹× ±âÁ¸ ½Ã½ºÅÛ ÅëÇÕ

- Llama Stack ±â¹ÝÀÇ Application SDK °³¹ß ¹× API ¼­ºñ½ºÈ­

Áö¿øÀÚ°Ý

- ´ë±Ô¸ð LLM ¸ðµ¨ÀÇ Ãß·Ð ¶Ç´Â ÇнÀ ½Ã½ºÅÛ °³¹ß °æÇèÀ» º¸À¯ÇϽŠºÐ

- LLM Ãß·Ð ÃÖÀûÈ­ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØ ¹× Àû¿ë °æÇèÀ» º¸À¯ÇϽŠºÐ

- C/C++ ¹× Python¿¡ ´ëÇÑ ¼÷·Ãµµ¿Í ¸Þ¸ð¸® °ü¸®¿¡ ´ëÇÑ ÀÌÇØµµ°¡ ÀÖÀ¸½Å ºÐ

- º¹ÀâÇÑ ¹®Á¦¸¦ ü°èÀûÀ¸·Î ºÐ¼®Çϰí ÇØ°áÇÒ ¼ö ÀÖ´Â ´É·ÂÀ» °®Ã߽ŠºÐ

- Kubernetes ±â¹ÝÀÇ Å¬·¯½ºÅÍ È¯°æ¿¡¼­ÀÇ ¼­ºñ½º ¿î¿µ °æÇèÀ» º¸À¯ÇϽŠºÐ

¿ì´ë»çÇ×

- vLLM, TRT-LLM, SGLang µî LLM Ãß·Ð ¿£Áø °³¹ß °æÇèÀ» º¸À¯ÇϽŠºÐ

- Speculative Decoding, FlashAttention µî ÃֽŠÃß·Ð ÃÖÀûÈ­ ±â¹ý¿¡ ´ëÇÑ ÀÌÇØµµ°¡ ÀÖÀ¸½Å ºÐ

- H100, A100, Gaudi2 µî ÃֽŠAI °¡¼Ó±â Çϵå¿þ¾î¿¡ ´ëÇÑ °æÇèÀ» º¸À¯ÇϽŠºÐ

- LLM ±â¹ÝÀÇ API ¼­ºñ½º °³¹ß ¹× ¿î¿µ °æÇèÀ» º¸À¯ÇϽŠºÐ

- LLM Ãß·Ð ÃÖÀûÈ­¿¡ ´ëÇÑ ¿¬±¸ ¶Ç´Â ¿ÀǼҽº ±â¿© °æÇèÀ» º¸À¯ÇϽŠºÐ

ÀüÇüÀýÂ÷

¼­·ùÀüÇü ¹× »çÀü °úÁ¦ > ÇʱâÀüÇü(ÄÚµùÅ×½ºÆ®) > ¸éÁ¢ÀüÇü > ÀÎÅϽÊ


¡Ø ÀÔ»ç Áö¿ø ½Ã »çÀü °úÁ¦¸¦ ÇÔ²² Á¦ÃâÇÏ¿©¾ß Çϸç, ¸éÁ¢ ÀüÇü¿¡¼­ °úÁ¦¿¡ ´ëÇÑ ¹ßÇ¥°¡ ÁøÇàµÉ ¿¹Á¤ÀÔ´Ï´Ù.

¡Ø ÀüÇüÀýÂ÷´Â ÀÏÁ¤ ¹× »óȲ¿¡ µû¶ó º¯µ¿µÉ ¼ö ÀÖÀ¸¸ç, ÀüÇüº° °á°ú¿¡ µû¶ó ÀýÂ÷°¡ Ãß°¡µÉ ¼ö ÀÖ½À´Ï´Ù.

¡Ø ¸éÁ¢ ¾È³»´Â ÃßÈÄ ¸éÁ¢ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.

Á¢¼ö±â°£

¼­·ù Á¢¼ö ±â°£: 2025³â 7¿ù 24ÀÏ(¸ñ¿äÀÏ) ~ 2025³â 8¿ù 4ÀÏ(¿ù¿äÀÏ) ¿ÀÈÄ 6½Ã

±Ù¹«Áö

°æ±âµµ ¼º³²½Ã ºÐ´ç±¸ ºÒÁ¤·Î 6 (±×¸°ÆÑÅ丮)

¡Ø ±Ù¹«Áö´Â ȸ»ç ³»ºÎ »çÁ¤¿¡ µû¶ó º¯°æµÉ ¼ö ÀÖ½À´Ï´Ù.

±Ù¹«±â°£

2025³â 9¿ù Áß ~ 2025³â 11¿ù Áß (¾à 3°³¿ù ±Ù¹« °¡´ÉÀÚ)

ÁÖ 5ÀÏ (10:00~19:00)

¡Ø ÀÎÅÏ½Ê »ó¼¼ ±Ù¹« ±â°£Àº ÃßÈÄ ÃÖÁ¾ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.

±âŸ»çÇ×

- º» ÀÎÅϽÊÀº ä¿ëÀüÁ¦ÇüÀÌ ¾Æ´Ñ üÇèÇü ÀÎÅϽÊÀ¸·Î, ÀÎÅÏ½Ê ±â°£ÀÌ ³¡³ª¸é °è¾à Á¾·áµË´Ï´Ù.

- ÀÔ»çÁö¿ø¼­ ÀÛ¼º Àü Áö¿øÀÚ°ÝÀ» È®ÀÎÇØ Áֽñ⠹ٶó¸ç, Áö¿ø¼­¿¡ ±âÀçµÈ ³»¿ë Áß ÇãÀ§»ç½ÇÀÌ ÀÖ´Â °æ¿ì¿¡´Â ÇÕ°ÝÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù.

- º» °ø°í´Â ÀÎÀç ¼±¹ß ¿Ï·á ½Ã Á¶±â ¸¶°¨µÉ ¼ö ÀÖÀ¸¸ç, ÇÊ¿ä½Ã ¸ðÁý ±â°£ÀÌ ¿¬ÀåµÉ ¼ö ÀÖ½À´Ï´Ù.

- Á¦ÃâµÈ Áö¿ø¼­´Â ·Î±×ÀÎ ÈÄ [My page- Áö¿ø ÇöȲ]¿¡¼­ È®ÀÎ °¡´ÉÇϸç, °ø°í ¸¶°¨ Àü±îÁö ȨÆäÀÌÁö¿¡¼­ ¼öÁ¤ ¹× Áö¿ø öȸ°¡ °¡´ÉÇÕ´Ï´Ù.

- ±¹°¡À¯°øÀÚ ¹× Àå¾ÖÀÎ µî Ãë¾÷º¸È£ ´ë»óÀÚ´Â °ü°è¹ý·É¿¡ µû¶ó ¿ì´ëÇÕ´Ï´Ù.

- ±¹°¡À¯°øÀÚÀÇ °¡»êÁ¡ ºÎ¿©¸¦ ¹Þ±â À§Çؼ­´Â º»ÀÎÀÌ 'Ãë¾÷Áö¿ø ´ë»óÀÚ Áõ¸í¼­'¸¦ ȸ»ç¿¡ Á¦ÃâÇØ¾ß ÇÕ´Ï´Ù.

- Á¦ÃâÇØ ÁֽŠÁö¿ø¼­ÀÇ °ËÅä °á°ú ¹ßÇ¥´Â Áö¿ø¼­¿¡ µî·ÏÇϽŠÀ̸ÞÀÏ·Î °³º° ¾È³»µå¸³´Ï´Ù.

- ¹®ÀÇ»çÇ×Àº NAVER Cloud ä¿ë ȨÆäÀÌÁö Áö¿ø ¹®ÀÇ·Î Á¢¼öÇØ Áֽñ⠹ٶø´Ï´Ù.