본문 바로가기
IT 와 Social 이야기/Data Science

데이터 라벨링 Data Labeling

by manga0713 2020. 6. 15.





전자신문 [대한민국희망프로젝트] <663> 데이터 라벨링




Q:데이터 라벨링은 무엇인가요?


A:사람은 눈으로 사물을 인식하고 이 사물이 무엇인지 알아낼 수 있습니다. 사물이 사진이나 영상 속에 있더라도 얼마든지 인지가 가능합니다. 하지만 AI는 처음 어떤 사물을 보았을 때 이것이 무엇인지 알 수가 없습니다.

예를 들어 도로 사진 속에 '신호등'과 '자동차'가 있다면 이런 형태의 사물이 '신호등'이고 '자동차'라고 사람이 표시를 미리 해줘야 AI가 비로소 그것을 인지할 수 있는 것입니다. 문제는 우리가 살아가는 세상에 존재하는 사진과 동영상 같은 수많은 비정제 데이터들은 AI가 바로 학습할 수가 없다는 것입니다. 그래서 AI 학습할 수 있도록 사람이 먼저 만들어 주는 과정을 바로 데이터 라벨링이라고 합니다.


Q:데이터 라벨링은 인공지능 산업과 무슨 관계가 있나요?

A:AI도 학습이 필요합니다. 사람이 시험공부를 할 때 기출문제나 연습문제를 많이 풀면 유사한 문제가 출제됐을 때 쉽게 답을 찾을 수 있듯이 AI도 문제를 많이 풀어야 학습이 됩니다. 데이터 라벨링이 된 '데이터 세트'는 AI가 공부할 수 있는 학습 자료 역할을 합니다.

그렇기 때문에 상황에 맞지 않는 데이터 세트나 양과 깊이가 부족한 데이터 세트는 AI 학습에 도움을 줄 수 없습니다. 우수한 AI 개발을 하기 위해서는 결국 이 데이터 세트가 얼마나 잘 만들어져 있는지가 매우 중요한 사항입니다. 만들어진 데이터를 관리하고 분석해 AI 개발에 바로 도입될 수 있도록 하는 것이 결국 AI 개발의 숨은 핵심이라고 할 수 있습니다.


Q:데이터 라벨링은 누가 어떻게 하는 건가요?

A:현재 기초적인 데이터 라벨링은 대부분 사람의 손으로 이루어집니다. 사람이 직접 사진이나 영상을 보고 이것이 '의자'이고 이것이 '침대'라고 표시합니다. 수많은 의자와 침대 데이터가 쌓이면 AI는 지금까지의 학습 결과에 따라 다른 데이터를 봐도 의자와 침대를 식별할 수 있게 됩니다. AI 개발에 꼭 필요한 작업이지만 사람이 하나하나 이 일을 한다는 것은 시간이 많이 소요되기 때문에 AI 개발에 있어 어려운 점 중 하나로도 꼽히고 있습니다. 우수한 AI 인력이 데이터 준비를 하는 데 많은 시간을 뺏겨 AI 개발의 효율성을 떨어뜨리는 것이 해결 과제로 지목되기도 합니다.


Q:데이터 라벨링을 효율적으로 할 수 있는 방법은 무엇인가요?

A:데이터 라벨링에는 사람의 초기 작업이 필수입니다. 현재 AI 개발자들은 데이터 준비 작업에만 전체 업무의 80% 정도를 할애합니다.
때문에 데이터 라벨링 플랫폼을 만드는 기업도 나왔습니다. ~ 이러한 플랫폼은 작업한 데이터를 한 프로젝트 파일에 저장하고 분석할 수 있어 AI 개발자들이 협업하는 데 큰 도움을 줍니다.


Q:국내 데이터 라벨링 산업 전망은 어떤가요?

A:한국형 뉴딜로 인해 데이터 라벨링 산업은 폭발적인 성장을 할 수 있을 것으로 예측됩니다. 지난 (202006) 3일 정부가 발표한 내용에 따르면 'AI 학습용 데이터 구축' 사업의 추경 예산은 2925억원으로 지난해 예산 대비 15배가 늘었습니다. 이에 따라 관련 기업도 많이 생겨날 것으로 보입니다. 특히 데이터 라벨링 인력을 운용하는 용역 기업이 늘어날 것으로 생각해볼 수 있습니다.

이런 데이터 라벨링 용역 기업들은 은퇴한 시니어나 경력 단절이 된 여성을 많이 고용할 수 있어 사회적 기업 역할도 함께 할 수 있을 것입니다. 데이터 라벨링은 우리나라 AI의 한 축을 담당하는 새로운 산업군으로 성장할 것으로 기대됩니다.

다만 단순 라벨링 작업에서 그치는 것이 아닌 더욱 고도화된 기술로 동일한 비용과 시간 내에서 AI 개발을 위한 더욱 효율적인 데이터 구축과 관리 방법을 구현하는 것이 가장 중요합니다.





WhatIs.com [Definition] data labeling



Data labeling, in the context of machine learning, is the process of detecting and tagging data samples. The process can be manual but is usually performed or assisted by software.



Q: What is data labeling used for?


A: Data labeling is an important part of data preprocessing for ML, particularly for supervised learning, in which both input and output data are labeled for classification to provide a learning basis for future data processing.


A system training to identify animals in images, for example, might be provided with multiple images of various types of animals from which it would learn the common features of each, enabling it to correctly identify the animals in unlabeled images.


Data labeling is also used when constructing ML algorithms for autonomous vehicles. Autonomous vehicles such as self-driving cars need to be able to tell the difference between objects in their course so that they can process the external world and drive safely. Data labeling is used to enable the car's artificial intelligence (AI) to tell the difference between a person, the street, another car and the sky by labeling the key features of those objects or datapoints and looking for similarities between them.



Q: How does data labeling work?


A: ML and deep learning systems often require massive amounts of data to establish a foundation for reliable learning patterns. The data they use to inform learning must be labeled or annotated based around data features that help the model organize the data into patterns that produce a desired answer.

The labels used to identify data features must be informative, discriminating and independent to produce a quality algorithm. A properly labeled dataset provides a ground truth that the ML model uses to check its predictions for accuracy and to continue refining its algorithm.

A quality algorithm is high in both accuracy and quality. Accuracy refers to the proximity of certain labels in the dataset to ground truth. Quality refers to how consistently accurate an entire dataset is.

Errors in data labeling impair the quality of the training dataset and the performance of any predictive models it’s used for. To mitigate this, many organizations take a Human-in-the-Loop (HITL) approach, maintaining human involvement in training and testing data models throughout their iterative growth.


Q: Methods of data labeling

A: An enterprise can use several methods to structure and label its data. The options range from using in-house staff to crowdsourcing and data labeling services. These options include:

    • Crowdsourcing – A third-party platform gives an enterprise access to many workers at once.
    • Contractors – An enterprise can hire temporary freelance workers to process and label data.
    • Managed teams – An enterprise can enlist a managed team to process data. Managed teams are trained, evaluated and managed by a third-party organization.
    • In- house staff – An enterprise can use its existing employees to process data.


There is no one optimal method for labeling data. Enterprises should use the method or combination of methods that best suits their needs. Some criteria to consider when choosing a data labeling method are:


    • The size of the enterprise;
    • the size of the dataset that requires labeling;
    • the skill level of employees on staff;
    • the financial restraints of the enterprise; and
    • the purpose of the ML model being supplemented with labeled data.


A good data labeling team should ideally have domain knowledge of the industry an enterprise serves. Data labelers who have outside context guiding them are more accurate. They should also be flexible and agile, because data labeling and ML are iterative processes, always changing and evolving as more information is taken in.



Q: Importance of data labeling


A: A recent report from AI research and advisory firm Cognilytica found that over 80% of the time enterprises spend on AI projects goes toward preparing, cleaning and labeling data. Manual data labeling is the most time-consuming and expensive method, but it may be warranted for important applications.

Critics of AI speculate that automation will put low skill-jobs such as call center work, truck and Uber driving at risk, because rote tasks are becoming easier to perform for machines. However, some experts believe that data labeling may present a new low-skill job opportunity to replace the ones that are nullified by automation, because there is an ever-growing surplus of data and machines that need to process it to perform the tasks necessary for advanced ML and AI.

댓글0