º» Á¶Á÷Àº AI ¸ðµ¨°ú Computing System¿¡ ´ëÇÑ Á¾ÇÕÀûÀÎ ÀÌÇظ¦ ¹ÙÅÁÀ¸·Î ³×À̹öÀÇ AI ¼ºñ½ºÀÇ ºñ¿ë ÃÖÀûȸ¦ ¸ñÇ¥·Î ÇÕ´Ï´Ù. ÀÌ °úÁ¤¿¡¼ AI ¸ðµ¨À» ÀÖ´Â ±×´ë·Î µÎÁö ¾Ê°í, °æ·®ÈÇϰųª ¾ÐÃàÇÏ´Â AI ¾Ë°í¸®ÁòÀ» Àû±Ø Àû¿ëÇÕ´Ï´Ù. ´õºÒ¾î ´Ù¾çÇÑ °æ·®È ¾Ë°í¸®Áò µéÀ» Àû¿ëÇÏ°í °æ·®È LLMÀ» Æò°¡ÇÔÀ¸·Î½á ±âÁ¸ °æ·®È ±â¼úµéÀÌ °¡Áø ÇѰ質 ¹®Á¦Á¡À» ÆľÇÇÏ°í »õ·Î¿î ¾Ë°í¸®ÁòÀ» ¿¬±¸ ¹× °³¹ßÇÏ´Â °ÍÀ» ¸ñÇ¥·Î ÇÕ´Ï´Ù.
1. °æ·®ÈµÈ LLM °¡¼Ó Ä¿³Î ¿¬±¸
- KV Cache QuantizationÀ» À§ÇÑ °í¼º´É °¡¼Ó Ä¿³Î ¼³°è ¹× ÃÖÀûÈ
- FP8 Quantization ¹× Custom Kernel °³¹ß ¿¬±¸
- Mixed Precision Input(W4A16)À» À§ÇÑ Gemm Ä¿³Î È¿À²È
2. LLM °æ·®È ¾Ë°í¸®Áò ¿¬±¸
- Splitwise Á¢±Ù¹ýÀ» °í·ÁÇÑ Prefill ¹× Generation ´Ü°èº° ¸ðµ¨ °æ·®È Àü·« °³¹ß
- Multi-Modality (Image, Audio µî) ÀÔ·Â »óȲ¿¡ ¸Â´Â LLM ¸ðµ¨ ºÐ¼® ¹× °æ·®È ±â¼ú ¿¬±¸
(Multi-Modality ±â¹Ý KV Cache È¿À²Àû ¾ÐÃà ¹æ¾È)
- Speculative Decoding È¿À²È¸¦ À§ÇÑ Draft Model Compression ±â¹ý ¿¬±¸ ¹× Acceptance Ratio Çâ»ó ¹æ¾È °³¹ß
- ±¹³»/¿Ü 4³âÁ¦ ´ëÇÐ(Çлç) ÀçÇлý ¶Ç´Â ±â Á¹¾÷ÀÚ
- ÀÎÅÏ½Ê ±â°£(¾à 3°³¿ù) µ¿¾È Full-Time ±Ù¹«°¡ °¡´ÉÇϽŠºÐ
- µö·¯´×¿¡ ´ëÇÑ ÀÌÇصµ°¡ ±íÀ¸½Å ºÐ
- LLM ¹× Transformer ¸ðµ¨¿¡ ´ëÇÑ ±âÃÊ Áö½ÄÀÌ ÀÖÀ¸½Å ºÐ
- LLM ¹× AI ¸ðµ¨ °æ·®È ¿¬±¸ °æÇèÀÌ ÀÖÀ¸½Å ºÐ
- °æ·®È ¾Ë°í¸®Áò¿¡ ´ëÇÑ ÀÌÇصµ°¡ ³ôÀ¸½Å ºÐ
- ¿¸° ¸¶À½À¸·Î ¼ÒÅëÇÏ°í ÃֽŠArXiv ³í¹® DiscussionÀ» Áñ±â½Ã´Â ºÐ
- deep learning framework¿¡ ´ëÇÑ ±âÃÊ ¼÷·Ãµµ°¡ ÀÖÀ¸½Å ºÐ(Pytorch, huggingface µî)
- CUDA, Triton Ä¿³Î °³¹ß °æÇèÀÌ ÀÖÀ¸½Å ºÐ(LLM °¡¼Ó Ä¿³Î ¿¬±¸)
- ¾ÐÃà ¾Ë°í¸®Áò ¿¬±¸ ¹× °³¹ß °æÇèÀÌ ÀÖÀ¸½Å ºÐ(Quantization / Pruning µî)
- Large-scale DNN ¿¬±¸ ÃÖÀûÈ °æÇèÀÌ ÀÖÀ¸½Å ºÐ
- °æ·®È °ü·Ã ³í¹® Publish ½ÇÀûÀÌ ÀÖÀ¸½Å ºÐ
¼·ùÀüÇü > ÇʱâÀüÇü(ÄÚµùÅ×½ºÆ®) > ¸éÁ¢ÀüÇü > ÀÎÅϽÊ
¡Ø ÀüÇüÀýÂ÷´Â ÀÏÁ¤ ¹× »óȲ¿¡ µû¶ó º¯µ¿µÉ ¼ö ÀÖÀ¸¸ç, ÀüÇüº° °á°ú¿¡ µû¶ó ÀýÂ÷°¡ Ãß°¡µÉ ¼ö ÀÖ½À´Ï´Ù.
¡Ø ¸éÁ¢ ¾È³»´Â ÃßÈÄ ¸éÁ¢ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.
¼·ù Á¢¼ö ±â°£: 2024³â 12¿ù 24ÀÏ(È¿äÀÏ) ~ 2025³â 1¿ù 6ÀÏ(¿ù¿äÀÏ) ¿ÀÈÄ 6½Ã
°æ±âµµ ¼º³²½Ã ºÐ´ç±¸ ºÒÁ¤·Î 6 (±×¸°ÆÑÅ丮)
¡Ø ±Ù¹«Áö´Â ȸ»ç ³»ºÎ »çÁ¤¿¡ µû¶ó º¯°æµÉ ¼ö ÀÖ½À´Ï´Ù.
2025³â 2¿ù Áß ~ 2025³â 5¿ù Áß (¾à 3°³¿ù ±Ù¹« °¡´ÉÀÚ)
ÁÖ 5ÀÏ (10:00~19:00)
¡Ø ÀÎÅÏ½Ê »ó¼¼ ±Ù¹« ±â°£Àº ÃßÈÄ ÃÖÁ¾ ´ë»óÀÚ¿¡°Ô °³º° ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.
- º» ÀÎÅϽÊÀº ä¿ëÀüÁ¦ÇüÀÌ ¾Æ´Ñ üÇèÇü ÀÎÅϽÊÀ¸·Î, ÀÎÅÏ½Ê ±â°£ÀÌ ³¡³ª¸é °è¾à Á¾·áµË´Ï´Ù.
- ÀÔ»çÁö¿ø¼ ÀÛ¼º Àü Áö¿øÀÚ°ÝÀ» È®ÀÎÇØ Áֽñ⠹ٶó¸ç, Áö¿ø¼¿¡ ±âÀçµÈ ³»¿ë Áß ÇãÀ§»ç½ÇÀÌ ÀÖ´Â °æ¿ì¿¡´Â ÇÕ°ÝÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù.
- º» °ø°í´Â ÀÎÀç ¼±¹ß ¿Ï·á ½Ã Á¶±â ¸¶°¨µÉ ¼ö ÀÖÀ¸¸ç, ÇÊ¿ä½Ã ¸ðÁý ±â°£ÀÌ ¿¬ÀåµÉ ¼ö ÀÖ½À´Ï´Ù.
- Á¦ÃâµÈ Áö¿ø¼´Â ·Î±×ÀÎ ÈÄ [My page- Áö¿ø ÇöȲ]¿¡¼ È®ÀÎ °¡´ÉÇϸç, °ø°í ¸¶°¨ Àü±îÁö ȨÆäÀÌÁö¿¡¼ ¼öÁ¤ ¹× Áö¿ø öȸ°¡ °¡´ÉÇÕ´Ï´Ù.
- ±¹°¡À¯°øÀÚ ¹× Àå¾ÖÀÎ µî Ãë¾÷º¸È£ ´ë»óÀÚ´Â °ü°è¹ý·É¿¡ µû¶ó ¿ì´ëÇÕ´Ï´Ù.
- ±¹°¡À¯°øÀÚÀÇ °¡»êÁ¡ ºÎ¿©¸¦ ¹Þ±â À§Çؼ´Â º»ÀÎÀÌ 'Ãë¾÷Áö¿ø ´ë»óÀÚ Áõ¸í¼'¸¦ ȸ»ç¿¡ Á¦ÃâÇØ¾ß ÇÕ´Ï´Ù.
- Á¦ÃâÇØ ÁֽŠÁö¿ø¼ÀÇ °ËÅä °á°ú ¹ßÇ¥´Â Áö¿ø¼¿¡ µî·ÏÇϽŠÀ̸ÞÀÏ·Î °³º° ¾È³»µå¸³´Ï´Ù.
- ¹®ÀÇ»çÇ×Àº NAVER Cloud ä¿ë ȨÆäÀÌÁö Áö¿ø ¹®ÀÇ·Î Á¢¼öÇØ Áֽñ⠹ٶø´Ï´Ù.