ºÎ¼ ¼Ò°³
ÀúÈñ ºÎ¼´Â HyperCLOVA X Foundation ¸ðµ¨ÀÇ Pre-training ¿¬±¸ ¹× °³¹ßÀ» ÅëÇØ ³×À̹ö ³»¿ÜºÎ·Î °ø±ÞÇÏ¿© Æø³ÐÀº Ȱ¿ëÀ» Áö¿øÇÕ´Ï´Ù. Ãֽбâ¼ú°ú »ç¿ëÀÚÀÇ ¿ä±¸¸¦ ¹Ý¿µÇÏ¿© °Å´ë ¾ð¾î ¸ðµ¨(LLM)ÀÇ ¼º´ÉÀ» Áö¼ÓÀûÀ¸·Î °³¼±Çϰí, À̸¦ ±â¹ÝÀ¸·Î Ç÷§ÆûÀ» °³¼±ÇÏ¸ç »õ·Î¿î ¹æÇâÀ» Á¦¾ÈÇÏ°í ½ÇÇàÇÕ´Ï´Ù.
´ã´ç¾÷¹«
• ´ë±Ô¸ð Pre-trainingÀ» À§ÇÑ µ¥ÀÌÅÍ ETL ºÐ»êó¸® ¹× ÃÖÀûÈ µî ¸ðµ¨ÀÇ ¼º´ÉÀ» ²ø¾î¿Ã¸®±â À§ÇÑ µ¥ÀÌÅÍ °È
• ´ë±Ô¸ð Pre-training ¸ðµ¨ ¼º´É Çâ»óÀ» À§ÇÑ ½ÇÇè, ¼³°è, ½ÇÇà ¹× ºÐ¼®
• ´ë±Ô¸ð ÇнÀ°ú ´ë±Ô¸ð µ¥ÀÌÅͰ¡ »óÈ£ ÀÛ¿ëÇÏ´Â ¹æ½Ä¿¡ ´ëÇÑ ¿¬±¸
• HyperCLOVA XÀÇ À¯°üºÎ¼ (¸ðµ¨, ÀÎÇÁ¶ó, Post-training ºÎ¼)¿Í Çù¾÷ µî
ÀÚ°Ý¿ä°Ç
• À¯°ü °æ·Â 1³â ÀÌ»ó º¸À¯ÇϽŠºÐ
Çʿ佺ų
• µ¥ÀÌÅÍ ¹× ML¿¡ °ü·ÃµÈ º¹ÀâÇÑ ¹®Á¦¸¦ ÇØ°áÇÒ ¼ö ÀÖ´Â ¼ÒÇÁÆ®¿þ¾î ¿£Áö´Ï¾î¸µ ±â¼ú
• Python¿¡ ´ëÇÑ Àü¹® Áö½Ä°ú µö·¯´× ÇÁ·¹ÀÓ¿öÅ© (Pytorch, Tensorflow µî)À» »ç¿ëÇÑ ¿¬±¸ ¹× °³¹ß °æÇè
• ÀÚ¿¬¾î 󸮳ª ´ë±Ô¸ð ¸Ó½Å ·¯´×¿¡ ´ëÇÑ Ä£¼÷µµ
• ÃֽŠAI/ML ³í¹®À» ÀÌÇØÇÏ°í ±¸ÇöÇÒ ¼ö ÀÖ´Â ´É·Â
• Pre-training ´ë±Ô¸ð µ¥ÀÌÅÍ ETL ¼öÁý/±¸Ãà ´É·Â
¿ì´ë»çÇ×
• ÀΰøÁö´É, ±â°èÇнÀ, µ¥ÀÌÅ͸¶ÀÌ´×, ¼öÇÐ µî °ü·Ã ºÐ¾ß ¼®»ç ÀÌ»ó ÇÐÀ§¸¦ ¼ÒÁöÇϽŠºÐ
• Pre-training ´ë±Ô¸ð µ¥ÀÌÅÍ ETLÀ» À§ÇÑ ºÐ»êó¸® ¹× ÃÖÀûȸ¦ À§ÇÑ ¼ÒÇÁÆ®¿þ¾î ¿ª·®À» º¸À¯ÇϽŠºÐ
• Pre-training ´ë±Ô¸ð GPU ÀÎÇÁ¶ó ÃÖÀûȸ¦ À§ÇÑ ºÐ»ê½Ã½ºÅÛ ÇнÀ ¹× ÄÄÇ»ÆÃ ±¸Á¶¿¡ ´ëÇÑ ÀÌÇØ(CUDA µî)°¡ ÀÖÀ¸½Å ºÐ
• Multi-modal (Text, Image µî) ´ë±Ô¸ð Pre-training ÇнÀ °æÇèÀ» º¸À¯ÇϽŠºÐ
• ÁÖ¿ä AI/ML Conference ³í¹® °ÔÀç °æÇèÀ» º¸À¯ÇϽŠºÐ (NeurIPS, ICML, ICLR, COLING, ACL, EMNLP µî)
• Kaggle µî ±¹³»¿Ü AI/ML ´ëȸ¿¡¼ ¿ì¼öÇÑ ¼ºÀûÀ» °ÅµÐ °æÇèÀ» º¸À¯ÇϽŠºÐ
ÀüÇüÀýÂ÷ ¹× ±âŸ»çÇ×
[ÀüÇüÀýÂ÷]
¼·ù ÀüÇü(±â¾÷¹®ÈÀûÇÕµµ °Ë»ç ¹× Á÷¹« Å×½ºÆ® Æ÷ÇÔ) ¢º 1Â÷ ÀÎÅÍºä ¢º ·¹ÆÛ·±½ºÃ¼Å© ¹× 2Â÷ ÀÎÅÍºä ¢º ó¿ìÇùÀÇ ¢º ÃÖÁ¾ÇÕ°Ý
¡Ø ÀüÇü ÀýÂ÷´Â ÀÏÁ¤ ¹× »óȲ¿¡ µû¶ó º¯µ¿ µÉ ¼ö ÀÖÀ¸¸ç, ÀüÇü º° °á°ú¿¡ µû¶ó ÀýÂ÷(Ãß°¡ ÀÎÅÍºä µî)°¡ Ãß°¡µÉ ¼ö ÀÖ½À´Ï´Ù.
¡Ø Á¤ÇØÁø °á°ú ¹ßÇ¥ ÀÏÁ¤Àº ¾øÀ¸¸ç, Áö¿ø¼ °ËÅä ÈÄ ¸éÁ¢ ÀÏÁ¤Àº ´ë»óÀÚ¿¡°Ô °³º°·Î ¾È³» µå¸± ¿¹Á¤ÀÔ´Ï´Ù.
[±Ù¹«Áö]
°æ±â ¼º³²½Ã ºÐ´ç±¸ ºÒÁ¤·Î 6 (±×¸°ÆÑÅ丮)
¡Ø ±Ù¹«Áö´Â ȸ»ç ³»ºÎ »çÁ¤¿¡ µû¶ó º¯µ¿µÉ ¼ö ÀÖ½À´Ï´Ù.