[NAVER Cloud] HyperCLOVA X ´ë±Ô¸ð ºÐ»ê ÇнÀ/ÃÖÀûÈ­ Engineer (°æ·Â)
ºÎ¼­ ¼Ò°³ ³×À̹öŬ¶ó¿ìµå´Â ¡®µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨¡¯ ÇÁ·ÎÁ§Æ®¸¦ ÅëÇØ AI ¿¡ÀÌÀüÆ®¸¦ Áö¿øÇÏ´Â ¿È´Ï ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨¿¡ ÁýÁßÇϰí ÀÖ½À´Ï´Ù. ÀúÈñ ºÎ¼­´Â ´©±¸³ª ½±°Ô °æÇèÇϰí, Àü ¼¼°è ¾îµð¼­µç Ȱ¿ë °¡´ÉÇÑ ±¹°¡´ëÇ¥ AI ¸ðµ¨À» ±¸ÇöÇÏ¿© ±Û·Î¹ú ¹«´ë¿¡¼­µµ ÀÎÁ¤¹Þ´Â K-AI¸¦ ¸¸µé¾î ³ª°¡°íÀÚ ÇÕ´Ï´Ù. ƯÈ÷, AI °³¹ßÀÇ ÇÙ½É ±â¹ÝÀ» ÇÑÃþ ´õ °­È­Çϱâ À§ÇØ AI ¸ðµ¨ÀÇ »ý»ê °úÁ¤ Àü¹Ý¿¡¼­ ¿£Áö´Ï¾î¸µ ¿ª·®À» ±Ø´ëÈ­ÇÏ´Â ¿©Á¤ ÇÔ²² ÇÏ½Ç ºÐµéÀ» ¸ðÁýÇϰí ÀÖ½À´Ï´Ù. ÇöÀç ÀúÈñ ºÎ¼­´Â ´ë±Ô¸ð Infra-structure¿¡¼­ÀÇ Àü °øÁ¤ ÇнÀ ½Ã½ºÅÛ È¿À²È­¸¦ À§ÇÑ Çõ½ÅÀûÀÎ ³ë·ÂÀ» ±â¿ïÀ̰í ÀÖ½À´Ï´Ù. ¹æ´ëÇÑ µ¥ÀÌÅ͸¦ ÀÌ¿ëÇØ LLMÀÇ ÇнÀ¿¡ ÇÊ¿äÇÑ µ¥ÀÌÅ͸¦ °¡°øÇϰí Á¤Á¦ÇÏ´Â ÀÛ¾÷À» Æ÷ÇÔÇÏ¿©, Áö±ÝÀÇ LLM ÇнÀ¿¡´Â ¸¹Àº ³ë·ÂÀÌ ÇÊ¿äÇÑ °ÍÀÌ Çö½ÇÀÔ´Ï´Ù. Áö±Ý ÀÌ ¼ø°£¿¡µµ ´Ù¾çÇÑ Parallelism ±â¹ýÀÌ ¿ä±¸µÇ´Â ¸ðµ¨µéÀÌ »õ·Ó°Ô ź»ýÇϰí ÀÖÀ¸¸ç, ´Ü¼øÈ÷ SW ·¹º§¿¡¼­¸¸ ÀÌÇØÇϰí ÃÖÀûÈ­ ÇÏ´Â °ÍÀ» ³Ñ¾î¼­ ÀÌÁ¦´Â Infra-structure¿¡ ´ëÇÑ ÀÌÇØ¿Í HW ·¹º§±îÁö ±í¼÷ÀÌ ³»·Á°¡¼­ ÃÖÀûÈ­ ÇÏ´Â ¾÷¹«µéÀ» ¿ä±¸Çϰí ÀÖ½À´Ï´Ù. ÀúÈñ ºÎ¼­¿¡¼­´Â HyperCLOVA XÀÇ ÇнÀ ¿ª·® Çâ»óÀ» À§ÇØ µ¥ÀÌÅÍ °¡°ø ¹× Á¤Á¦¸¦ À§ÇÑ DataOpsºÎÅÍ ÇнÀ ·ÎÁ÷ ÃÖÀûÈ­¸¦ À§ÇÑ MLOps±îÁö, AI ¸ðµ¨ »ý»ê °øÁ¤¿¡ ÇÊ¿äÇÑ ¿£Áö´Ï¾î¸µ ¿ª·®À» ±Ø´ëÈ­ÇÏ¿© Sovereign AI ¹ßÀü¿¡ ¾ÕÀå¼­°íÀÚ ÇÕ´Ï´Ù. ´ã´ç¾÷¹« • LLM/¸Ó½Å ·¯´× °ü·Ã °æ·ÂÀ» 3³â ÀÌ»ó º¸À¯ÇϽŠºÐ • Pytorch, transformers, FSDP, DeepSpeed, Megatron µîÀ» ´É¼÷ÇÏ°Ô ´Ù·ç°í, ºÐ¼®ÇÏ¿© °ü·Ã Äڵ带 °³¼±ÇÒ ¼ö ÀÖÀ¸½Å ºÐ • ´ë±Ô¸ð ºÐ»ê ÇнÀ ±¸Á¶ ÃÖÀûÈ­ ¶Ç´Â LLM ÇнÀ ±â¹Ý ¿£Áö´Ï¾î¸µ/¸ðµ¨¸µ °æÇèÀÌ ÀÖÀ¸½Å ºÐ • LLM¡¤Transformer ±â¹Ý ÇнÀ ¹× inference ÆÛÆ÷¸Õ½º ºÐ¼® ´É·ÂÀ» °®Ã߽ŠºÐ • ½Ã½ºÅÛ ¼º´É Çâ»ó°ú SW Architecturing °üÁ¡¿¡¼­ È®À强¡¤À¯Áöº¸¼ö¼ºÀ» ±ÕÇüÀÖ°Ô °í·ÁÇÏ°í °°ÀÌ °í¹ÎÇÏ½Ç ¼ö ÀÖÀ¸½Å ºÐ • ÆÀ °£ Á¶À² ¹× Çù¾÷¿¡ ÇÊ¿äÇÑ Ä¿¹Â´ÏÄÉÀÌ¼Ç ´É·ÂÀ» º¸À¯ÇϽŠºÐ ¿ì´ë»çÇ× • Large-scale Model ÇнÀ ½Ã½ºÅÛ ÃÖÀûÈ­ ¹× Parallelism ±â¹Ý ±¸Á¶¿¡ ´ëÇÑ ±íÀº ÀÌÇØµµ°¡ ÀÖÀ¸½Å ºÐ • GPU architecture¿¡ ´ëÇÑ ³ôÀº ÀÌÇØµµ ¹× cuda kernel °³¹ßÀ» ÅëÇÑ ÃÖÀûÈ­ °æÇèÀ» º¸À¯ÇϽŠºÐ • LLM Post training(SFT, RLHF, RLVR µî) °ü·Ã ½Ç¹« °æÇèÀÌ ÀÖÀ¸½Å ºÐ • LLM ÇнÀ µ¥ÀÌÅÍ ¼³°èºÎÅÍ ½ÇÁ¦ ÇнÀ±îÁöÀÇ °úÁ¤À» °æÇèÇØº¸½Å ºÐ • ¸ðµ¨ ǰÁú Æò°¡¿¡ ±â¹ÝÇÑ ºÐ¼® ¹× °³¼± °æÇèÀ» º¸À¯ÇϽŠºÐ • LLM knowledge distillation¡¤ÇнÀ¡¤ÃÖÀûÈ­ µî °ü·Ã ³í¹®/¿¬±¸ ½ÇÀûÀ» º¸À¯ÇϽŠºÐ