[NAVER Cloud] Vision °­È­ ÇнÀ LLM °³¹ß (°æ·Â)
ºÎ¼­¼Ò°³ ÀúÈñ ºÎ¼­´Â HyperCLOVA X¸¦ ±â¹ÝÀ¸·Î, À̹ÌÁö¿Í ºñµð¿À µîÀÇ Multimodal µµ¸ÞÀÎÀ¸·ÎÀÇ ±â´É È®ÀåÀ» À§ÇÑ ¾ÆÅ°ÅØÃ³ ¼³°è ¹× ¸ðµ¨ »ý»êÀ» ´ã´çÇϰí ÀÖ½À´Ï´Ù. ÃÖÁ¾ÀûÀ¸·Î´Â Native Multimodal ¹× ÀÔÃâ·Â Ãø¸é¿¡¼­ Any-to-Any ±îÁöÀÇ È®ÀåÀ» ¸ñÇ¥·Î Çϰí ÀÖ½À´Ï´Ù. 2024³â 9¿ù Çѱ¹ ÃÖÃÊ·Î Vision LLM ±â´ÉÀ» HyperCLOVA X ¿¡ Àû¿ëÇØ ¼­ºñ½º¸¦ ½ÃÀÛÇÏ¿´°í, ƯÈ÷ 2025³â 4¿ù¿¡µµ ¿ª½Ã ´ëÇѹα¹ AI »ýŰ踦 À§ÇÏ¿© ±¹³» ÃÖÃÊ·Î »ó¾÷¿ë ¿ÀǼҽº AI ¸ðµ¨À» °ø°³Çß½À´Ï´Ù.(°ü·Ã ¸µÅ© Click) ³ª¾Æ°¡ Global Frontier Big Tech ¿Í °æÀïÇϱâ À§ÇØ NAVERÀÇ ÀÚ»êÀÎ µ¥ÀÌÅÍ¿Í ±â¼ú Ãø¸é¿¡¼­ ¿À·§µ¿¾È ÃàÀûµÈ °æÇè°ú ¿ì¼öÇÑ ÀÎÀ縦 ¹ÙÅÁÀ¸·Î ´Ù¾çÇÑ ÇÁ·ÎÁ§Æ®¿¡ µµÀüÇϰí ÀÖ½À´Ï´Ù. ´ë¿ë·®ÀÇ Computing°ú ¾çÁúÀÇ µ¥ÀÌÅÍ´Â Machine Learning ¿¡ ÀÖ¾î ÇÙ½ÉÀÔ´Ï´Ù. Computing ÀÚ¿øÀº »ý»êÀ» ¹Ýº¹ÇÒ ¶§¸¶´Ù ºñ¿ë¿¡ »êÀÔÀÌ µÇ±â¿¡, ÇнÀ È¿À²¼º ¹× ¼º´É Çâ»óÀ» À§ÇØ µ¥ÀÌÅ͸¦ Á¤±³ÇÏ°Ô Filtering Çϰí CurationÇÏ´Â °ÍÀÌ Áß¿äÇÕ´Ï´Ù. À̸¦ À§ÇØ ÇØ´ç µ¥ÀÌÅ͵éÀ» ¿©·¯ ¹æ¹ý·ÐÀ» ÅëÇÏ¿© (Model Driven) ÇнÀ °øÁ¤À» ´ÜÃàÇÏ°í µ¥ÀÌÅÍ¿Í ¸ðµ¨ÀÇ »óÈ£ÀÛ¿ëÀ» ޱ¸Çϸç SOTA ¼öÁØÀÇ ¼º´É °³¼±À» ¸ñÇ¥·Î ÇÕ´Ï´Ù. ´ã´ç¾÷¹« »ý»ê °øÁ¤ Áß Multimodal RL (RLVR, RLHF) ÇнÀ ¿Ï¼º ¹× Reasoning °ü·Ã Target Benchmark ÀÇ SOTA ±Þ ¼º´É ´Þ¼º • Hyperscale ±Ô¸ðÀÇ GPU ÀÚ¿ø (InfiniBand ±â¹Ý GPU Cluster)°ú VERL, VeOmni ¸¦ Ȱ¿ëÇÑ Vision RL °ü·Ã ÇнÀ ȯ°æ °³¹ß ¹× ½ÇÇè • RLVR À» À§ÇÑ Target Scenario Ž»ö ¹× Reward Design, °ü·Ã ÇнÀ Data °¡°ø ¹× È®º¸ • RLHF ÇнÀÀ» À§ÇÑ Reward Model (RM) ÇнÀ ¹× °ü¸®, Reward ±â¹Ý Policy ÃÖÀûÈ­ ½ÇÇè • Hyperscale ±Ô¸ðÀÇ GPU ÀÚ¿ø (InfiniBand ±â¹Ý GPU Cluster)¿¡¼­ÀÇ Multimodal RL ÇнÀ, Ablation ¹× ¸ðµ¨ »ý»ê ÀÚµ¿È­ • LLMÀÇ Text ¼º´É ¹× ±âÁ¸ Vision ¼º´ÉÀÇ Forgetting À» ÃÖ¼ÒÈ­ ¹× Reasoning ´É·Â Çâ»ó ¿¬±¸ ÀÚ°Ý¿ä°Ç • ¼®»ç ÇÐÀ§ º¸À¯ÀÚ È¤Àº 2³â ÀÌ»óÀÇ À¯°ü °æ·ÂÀ» º¸À¯ÇϽŠºÐ • VLM (LLaVA, Qwen VL, DeepSeek VL µî) ÀÇ ±¸Á¶ ¹× ÇнÀ °úÁ¤¿¡ ´ëÇÑ »ó¼¼ÇÑ ÀÌÇØµµ¸¦ °®Ã߽ŠºÐ • Code Level ÀÇ °æÇèÀ» º¸À¯ÇϽŠºÐ • RL °ü·Ã ±âº» Áö½Ä (RLHF, DPO, PPO, GRPO µî) ¹× ½Ç¹«ÀûÀÎ ÇнÀ °æÇèÀ» º¸À¯ÇϽŠºÐ • Vision RL ¿¡¼­ »ç¿ëµÇ´Â µ¥ÀÌÅÍÀÇ Æ¯¼º, Á¾·ù¿¡ ´ëÇÑ ÀÌÇØµµ¸¦ °®Ã߽ŠºÐ • Python ¹× LLM °³¹ß °ü·Ã Library, FW, Platform(PyTorch, Hugging Face) Ȱ¿ë ¿ª·®À» º¸À¯ÇϽŠºÐ ¿ì´ë»çÇ×