전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만…

누구나 볼 수 있는 공개 기록입니다. 읽기 전용.

사용자의 요구

전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만들어줘

대화

  1. ML 엔지니어 36,171행, 17개 항목을 읽었습니다. 답의 기준은 ‘정기예금가입’ 열로 잡았습니다. 아래에서 맞는지 확인해 주세요.
  2. 질문한 사람 전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만들어줘
  3. ML 엔지니어 요청 원문으로 확인되지 않은 해석이 있어, 확인된 내용만 남겨 다시 정리하고 있습니다. 학습은 아직 시작하지 않았습니다.
  4. ML 엔지니어 등록 과제(bank-trial)의 목표 열은 정기예금가입, 지표는 balanced_accuracy, 허용 입력은 통화시간초를 제외한 15개 열로 호스트가 이미 정했습니다. 사용자 원문은 '전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델'을 요청할 뿐 입력 열 목록을 명시하지 않았으므로, task_brief에는 입력 열 인용을 넣지 않습니다. 기술 선택으로 안전 입력 열 전체(available_columns), 행 단위 예측, 특징 그룹 단위 평가, iid_feature_groups_60_20_20_v1 분할, balanced_accuracy, model 제공을 제안합니다. 다음 행동은 이 결정을 DECISION.json에 기록하는 것입니다.
  5. ML 엔지니어 첫 모델을 만듭니다. 여러 방법을 시험해 가장 나은 것을 고르고, 마지막에 처음 보는 데이터로 한 번 더 확인합니다.
  6. ML 엔지니어 하네스 기본 후보를 시험했습니다. 균형 정확도 73.7%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
  7. ML 엔지니어 다음에 시험할 방법을 정했습니다. 기준선은 순서 없는 범주형 변수를 임의 순서의 정수 코드로 처리하고 있습니다. 원-핫 인코딩과 이전 캠페인 결과 파생 변수로 범주 구조를 보존하면 같은 데이터·같은 평가 계약에서 성능 향상을 기대할 수 있어 개선 실험을 제안합니다.
  8. ML 엔지니어 후보 2번을 시험했습니다. 균형 정확도 74.1%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
  9. ML 엔지니어 다음에 시험할 방법을 정했습니다. t2가 최고 성능이지만 개선 폭이 작아, 전처리는 유지하고 모델 용량만 키워 핵심 신호의 상호작용 학습을 시도합니다.
  10. ML 엔지니어 후보 3번을 시험했습니다. 균형 정확도 73.9%. 이전 후보가 더 좋아 그대로 둡니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
  11. ML 엔지니어 점수가 오르지 않아 방향을 다시 봅니다. 같은 방향을 반복하지 않고, 남은 예산으로 다른 방법을 시험할지 지금까지 가장 좋은 후보로 마칠지 정합니다.
  12. ML 엔지니어 가장 좋은 후보로 마무리합니다. 에이전트가 후보 3개를 시험한 뒤 더 시험하지 않기로 했습니다(최대 4개). 남은 예산 9,999,500원 중 40원을 최종 확인에 씁니다. 지금까지 가장 좋은 후보만 처음 보는 데이터로 최종 확인합니다.
  13. ML 엔지니어 최종 확인을 마쳤습니다. 모델이 학습에 쓰지 않은 데이터에서 균형 정확도 73.1%입니다. 아래 보관된 모델 카드에서 이 결과로 예측을 시험해 볼 수 있습니다.
  14. 질문한 사람 가입할 고객을 더 많이 찾아줘. 놓치는 가입자를 줄여줘
  15. ML 엔지니어 가입할 고객을 더 많이 찾고 놓치는 가입자를 줄이는 방향으로 새 후보를 만들어 보겠습니다. 이전캠페인결과·연락시점 같은 핵심 신호의 비선형 상호작용을 더 잘 학습하도록 모델 용량과 학습률을 조정하고, 가입(예) 클래스에 가중을 두어 놓치는 비율을 낮추는 쪽으로 시도합니다. 같은 평가 데이터를 두 번 쓰지 않도록 최종 점수는 다시 재지 않고, 개발 데이터로만 비교합니다. 개선 시도를 시작했습니다. 새 후보를 만들어 개발 데이터로 비교한 뒤 결과를 여기에 알려드립니다.
  16. ML 엔지니어 개선 후보 4번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
  17. 질문한 사람 지금 어디까지 했어?
  18. ML 엔지니어 지금 '가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘' 요청으로 개선 후보를 시험하고 있습니다 (최대 4개 중 1번째). 후보 4번: 만들고 시험하는 중입니다. 끝나면 결과를 여기에 알려드리고, 그 뒤에 질문에 답할 수 있습니다.
  19. ML 엔지니어 개선 후보 4번을 시험했습니다. 개발 점수 73.0% (-1.1%p) · '예'를 놓친 비율 37% → 30%지만, 전체 점수 변화가 -2.0%p ~ -0.1%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다.
  20. ML 엔지니어 개선 후보 5번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
  21. ML 엔지니어 개선 후보 5번을 시험했습니다. 개발 점수 71.3% (-2.8%p) · '예'를 놓친 비율 37% → 27%지만, 전체 점수 변화가 -3.8%p ~ -1.9%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다.
  22. ML 엔지니어 개선 후보 6번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
  23. ML 엔지니어 개선 후보 6번을 시험하지 못했습니다. 학습 코드가 실행 중 오류를 냈습니다. 오류를 보고 한 번 고쳐 봅니다.
  24. ML 엔지니어 개선 후보 6번의 오류를 고칩니다. 학습 중 난 오류를 에이전트에게 보여주고 코드를 한 번 고쳐 같은 조건으로 다시 시험합니다.
  25. ML 엔지니어 개선 후보 7번을 시험하지 못했습니다. 학습 코드가 실행 중 오류를 냈습니다. 오류를 보고 한 번 고쳐 봅니다.
  26. ML 엔지니어 새 후보 4개를 시험했지만 확실히 나은 후보가 없어 기존 모델(개발 점수 74.1%)을 그대로 둡니다. 가장 나은 후보 4번도 개발 점수 73.0%(-1.1%p)로, '예'를 놓친 비율 37% → 30%지만, 전체 점수 변화가 -2.0%p ~ -0.1%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다. 최종 점수는 원래 모델의 1회 측정값(73.1%)을 그대로 둡니다. 다른 방향으로 더 해보려면 "한 번 더 해봐"처럼 말해 주세요.
  27. 질문한 사람 나이 45살 관리직, 잔고 1500유로, 지난 통화 300초인 고객은 가입할까?
  28. ML 엔지니어 나이 45, 직업 관리직, 연평균잔액 1500, 지난 통화 300초로 읽었습니다. 보관된 모델로 직접 예측한 결과입니다 (말하지 않은 항목은 빈 값으로 넣었습니다): 1) 나이=45, 연평균잔액=1500, 직업=관리직 → 정기예금가입: 아니오