[NAVER Cloud] Studio LLMOps Back-end °³¹ß(°æ·Â)
ºÎ¼­¼Ò°³ Studio ´Â ´Ù¾çÇÑ È¯°æ¿¡¼­ ¿©·¯ Á¾·ùÀÇ LLM À» ¹èÆ÷ ¹× ¿î¿µÇϱâ À§ÇÑ ¼­ºñ½º¸¦ °³¹ßÇϰí ÀÖ½À´Ï´Ù. ¸ðµ¨ÀÇ ÀÎÆÛ·±½º ¼­¹ö °ü¸®, ÇнÀ, ÇнÀ ¸ðµ¨À» ¹èÆ÷ÇÏ°í ³ª¾Æ°¡¼­ Agent °³¹ßÀ» À§ÇÑ ´Ù¾çÇÑ µµ±¸ °³¹ßÀ» ¸ñÇ¥·Î Çϰí ÀÖ½À´Ï´Ù. ´ã´ç¾÷¹« • LLMOps ¸¦ À§ÇÑ µµ±¸ °³¹ß • LLM Inference ¼­¹ö ¿î¿µ • LLM ÇнÀ Áö¿ø • ¿©·¯ ȯ°æ¿¡ ¼­ºñ½º¸¦ ¹èÆ÷Çϱâ À§ÇÑ Packaging • LLM ¹× ¼­ºñ½º ¿î¿µ È¿À²È­¸¦ À§ÇÑ Metric ¹× ·Î±× ¼öÁý ÀÚ°Ý¿ä°Ç • ¼­¹ö °³¹ß °ü·Ã ¾÷¹« °æ·ÂÀ» 3³â ÀÌ»ó º¸À¯ÇϽŠºÐ • API ¼­¹ö °³¹ßÀÌ °¡´ÉÇϽŠºÐ • RDBMS, Redis, MongoDB µîÀ» Ȱ¿ëÇÏ¿© ¾ÈÁ¤ÀûÀ̰í È¿À²ÀûÀ¸·Î µ¥ÀÌÅ͸¦ °ü¸®ÇÏ½Ç ¼ö ÀÖ´Â ºÐ • k8s ±â¹ÝÀ¸·Î ¼­ºñ½º ¿î¿µÀ» ÇØº¸½Å ºÐ ¿ì´ë»çÇ× • JVM ¹× Spring ±â¹Ý ¼­¹ö ¿î¿µ • MSA ¼­ºñ½º ¼³°è °æÇèÀÌ ÀÖÀ¸½Å ºÐ • DB Schema °ü¸® ¹× Test Automation • Python, Golang µî¿¡ ´ëÇÑ °æÇèÀÌ ÀÖÀ¸½Å ºÐ • ³×Æ®¿öÅ© ¹× ÀÎÇÁ¶ó¿¡ ´ëÇÑ ÀÌÇØ°¡ ³ôÀ¸½Å ºÐ • LLM ¿¡ ´ëÇÑ ±âº»ÀûÀÎ ÀÌÇØ°¡ ÀÖÀ¸½Å ºÐ