‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지…
누구나 볼 수 있는 공개 기록입니다. 읽기 전용.
사용자의 요구
‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지 알고 싶어
대화
- ML 엔지니어 1,200행, 8개 항목을 읽었습니다. 답의 기준은 ‘churn’ 열로 잡았습니다. 아래에서 맞는지 확인해 주세요.
- 질문한 사람 ‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지 알고 싶어
- ML 엔지니어 'churn' 열을 예측하는 이진 분류 작업으로 계획했습니다. 등록된 과제 조건에 따라 정답 열 churn, 지표 balanced_accuracy, 입력은 전체 허용 입력 열, 결과 제공은 model로 제안합니다. 다음 행동은 이 결정을 DECISION.json에 기록하는 것입니다.
- ML 엔지니어 첫 모델을 만듭니다. 여러 방법을 시험해 가장 나은 것을 고르고, 마지막에 처음 보는 데이터로 한 번 더 확인합니다.
- ML 엔지니어 하네스 기본 후보를 시험했습니다. 균형 정확도 68.2%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. 기준 모델은 범주형 열을 순서 코드로만 인코딩하고 고정 설정의 부스팅만 사용합니다. 범주 정보를 보존하는 원-핫 인코딩과 규제된 선형 모델로 같은 데이터에서 다른 가설을 검증해 보겠습니다.
- ML 엔지니어 후보 2번을 시험했습니다. 균형 정확도 69.9%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. 현재 최고 후보 t2(0.69895)는 원-핫 인코딩에 선형 로지스틱 회귀를 사용해 비선형 상호작용을 표현하지 못합니다. 인코딩은 유지하고 비선형 트리 앙상블로 추정기만 교체하는 한 번의 실험으로 그 한계를 검증합니다.
- ML 엔지니어 후보 3번을 시험했습니다. 균형 정확도 66.1%. 이전 후보가 더 좋아 그대로 둡니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 가장 좋은 후보로 마무리합니다. 정해진 시도 횟수를 모두 썼습니다. 지금까지 가장 좋은 후보만 처음 보는 데이터로 최종 확인합니다.
- ML 엔지니어 최종 확인을 마쳤습니다. 모델이 학습에 쓰지 않은 데이터에서 균형 정확도 71.6%입니다. 아래 보관된 모델 카드에서 이 결과로 예측을 시험해 볼 수 있습니다.
- 질문한 사람 왜 이 점수가 나왔어?
- ML 엔지니어 최종 점수는 학습에 쓰지 않은 데이터 239건에서 측정한 균형 정확도 71.6%입니다. 균형 정확도는 클래스별로 맞힌 비율의 평균이라, 이탈 고객과 잔류 고객을 얼마나 고르게 구분했는지를 보여줍니다. 이 점수는 하네스가 만든 기본 모델(t1, 68.2%)과 에이전트가 만든 후보들(t2 69.9%, t3 66.1%) 중 가장 좋은 후보 t2를 처음 보는 데이터로 확인한 결과입니다.
- 질문한 사람 어떤 항목이 결과에 가장 큰 영향을 줬어?
- ML 엔지니어 영향도는 개발 데이터 239건에서 각 항목 값을 섞었을 때 균형 정확도가 얼마나 떨어지는지로 측정했습니다. 상담 횟수(support_calls)가 15.8%p로 가장 컸고, 가입 기간(tenure_months) 3.2%p, 요금제(plan) 1.7%p, 데이터 사용량(data_usage_gb) 0.7%p, 월 요금(monthly_fee) 0.5%p, 나이(age) 0.4%p 순입니다. 다만 영향이 크다고 해서 그것이 이탈의 원인이라는 뜻은 아닙니다.
- 질문한 사람 support_calls 1, tenure_months 38, plan basic이면 결과가 어떻게 나와?
- ML 엔지니어 상담 횟수 1, 가입 기간 38개월, 요금제 basic으로 읽었습니다. 보관된 모델로 직접 예측한 결과입니다 (말하지 않은 항목은 빈 값으로 넣었습니다): 1) plan=basic, support_calls=1, tenure_months=38 → churn: no
- 질문한 사람 이 모델 믿고 써도 돼?
- ML 엔지니어 최종 점수는 학습에 쓰지 않은 데이터 239건에서 측정한 균형 정확도 71.6%이고, 이는 하네스가 만든 기본 모델(t1, 68.2%)과 에이전트가 만든 후보들(t2 69.9%, t3 66.1%) 중 가장 좋은 후보 t2를 처음 보는 데이터로 확인한 결과입니다. 다만 이 점수는 이탈 고객과 잔류 고객을 고르게 구분한 비율일 뿐이며, 실제 운영 환경에서의 성능을 보장하지는 않습니다. 영향도는 개발 데이터 239건에서 상담 횟수(support_calls)가 15.8%p로 가장 컸지만, 영향이 크다고 해서 그것이 이탈의 원인이라는 뜻은 아닙니다. 참고용으로만 쓰시고, 중요한 결정에는 별도 검증을 거치시길 권합니다.
- 질문한 사람 더 좋게 만들 수 있어?
- ML 엔지니어 이 대화에서는 재학습이나 새 평가를 바로 실행할 수 없습니다. 다만 왼쪽 '+ 새 작업'으로 다른 데이터 파일을 쓰면 새 모델을 만들 수 있고, 이미 쓴 같은 파일은 평가 데이터가 섞이지 않도록 새 작업에 다시 쓸 수 없습니다. 지금 후보들은 하네스 기본 모델(t1, 68.2%)과 에이전트 후보(t2 69.9%, t3 66.1%)였고, 최종 점수는 학습에 쓰지 않은 239건에서 측정한 균형 정확도 71.6%입니다. 더 나은 결과를 노린다면 새 작업에서 특성 표현이나 모델 구성을 바꿔 시도해볼 수 있습니다.
- 질문한 사람 결과를 엑셀로 받을 수 있어?
- ML 엔지니어 엑셀 파일로 바로 내보내는 기능은 없습니다. 대신 대화 아래 '보관된 모델' 카드의 '예측해보기'에서 한 건 직접 입력하거나 JSON, 또는 CSV·JSON 파일(최대 100건, 2MB)로 예측하고 결과를 표로 볼 수 있습니다. 같은 카드의 '모델·소스 받기'로 학습된 전처리·모델 파일과 학습 소스, 실행 안내를 zip 으로 내려받을 수도 있습니다.