ClickHouse Cloud 모니터링

ClickHouse Cloud 모니터링 가이드

이 가이드는 ClickHouse Cloud를 평가하는 엔터프라이즈 팀을 위해 프로덕션 배포 시 모니터링 및 관측성 기능에 관한 종합적인 정보를 제공합니다. 엔터프라이즈 고객은 기본 제공 모니터링 기능, Datadog 및 AWS CloudWatch 같은 도구를 포함한 기존 관측성 스택과의 통합, 그리고 자체 호스팅 배포와 비교했을 때 ClickHouse의 모니터링이 어떤지에 대해 자주 문의합니다.

​

고급 관측성 대시보드

ClickHouse Cloud는 모니터링 섹션에서 접근할 수 있는 내장 대시보드 인터페이스를 통해 포괄적인 모니터링을 제공합니다. 이러한 대시보드는 추가 설정 없이 시스템 및 성능 메트릭을 실시간으로 시각화하며, ClickHouse Cloud에서 실시간 프로덕션 모니터링을 위한 기본 도구 역할을 합니다.

• 고급 대시보드: 모니터링 → 고급 대시보드에서 접근할 수 있는 기본 대시보드 인터페이스로, 쿼리 비율, 리소스 사용량, 시스템 상태, 스토리지 성능을 실시간으로 확인할 수 있습니다. 이 대시보드는 별도의 인증이 필요 없고, 인스턴스의 유휴 상태 전환을 막지 않으며, 프로덕션 시스템에 쿼리 부하를 추가하지도 않습니다. 각 시각화는 사용자 지정 가능한 SQL 쿼리를 기반으로 하며, 기본 제공 chart는 ClickHouse 관련 메트릭, 시스템 상태 메트릭, Cloud 관련 메트릭으로 그룹화되어 있습니다. SQL 콘솔에서 직접 사용자 지정 쿼리를 만들어 모니터링을 확장할 수 있습니다.

이 메트릭에 접근해도 기본 서비스에 쿼리가 실행되지 않으며, 유휴 상태의 서비스를 깨우지 않습니다.

이러한 시각화를 확장하려는 사용자는 ClickHouse Cloud의 dashboards 기능을 사용해 시스템 테이블(system tables)을 직접 쿼리할 수 있습니다.

• 네이티브 고급 대시보드: 모니터링 섹션의 “You can still access the native advanced dashboard”를 통해 접근할 수 있는 대체 대시보드 인터페이스입니다. 별도의 탭에서 인증과 함께 열리며, 시스템 및 서비스 상태 모니터링을 위한 대체 UI를 제공합니다. 이 대시보드에서는 기본 SQL 쿼리를 수정할 수 있어 고급 분석을 수행할 수 있습니다.

두 대시보드 모두 외부 종속성 없이 서비스 상태와 성능을 즉시 파악할 수 있으므로, ClickStack과 같은 외부 디버깅 중심 도구와 차별화됩니다.

대시보드의 자세한 기능과 사용 가능한 메트릭은 고급 대시보드 문서를 참조하십시오.

​

쿼리 인사이트 및 리소스 모니터링

ClickHouse Cloud는 다음과 같은 추가 모니터링 기능을 제공합니다:

• 쿼리 인사이트: 쿼리 성능 분석 및 문제 해결을 위한 기본 제공 인터페이스
• 리소스 사용량 대시보드: 메모리, CPU 할당량, 데이터 전송 패턴을 추적합니다. CPU 사용량 및 메모리 사용량 그래프는 특정 시간 범위의 최대 사용률 메트릭을 표시합니다. CPU 사용량 그래프는 시스템 수준의 CPU 사용률 메트릭을 표시하며, ClickHouse CPU 사용률 메트릭은 아닙니다.

자세한 기능은 쿼리 인사이트 및 리소스 사용량 문서를 참조하십시오.

​

Prometheus 호환 메트릭 엔드포인트

ClickHouse Cloud는 Prometheus 엔드포인트를 제공합니다. 이를 통해 현재 워크플로를 유지하고, 기존 팀의 전문 지식을 활용하며, ClickHouse 메트릭을 Grafana, Datadog 및 기타 Prometheus 호환 도구를 포함한 엔터프라이즈 모니터링 플랫폼에 통합할 수 있습니다.

조직 수준 엔드포인트는 모든 서비스의 메트릭을 통합해 제공하며, 서비스별 엔드포인트는 보다 세밀한 모니터링을 지원합니다. 주요 기능은 다음과 같습니다.

• 필터링된 메트릭 옵션: 선택적 filtered_metrics=true 매개변수를 사용하면 1000개 이상의 사용 가능한 메트릭이 125개의 “핵심” 메트릭으로 줄어들어 비용을 최적화하고 모니터링 대상을 더 쉽게 집중할 수 있습니다
• 캐시된 메트릭 제공: 1분마다 갱신되는 구체화된 뷰(Materialized View)를 사용해 운영 시스템의 쿼리 부하를 최소화합니다

이 방식은 서비스의 유휴 상태 전환 동작을 고려하므로, 서비스가 쿼리를 적극적으로 처리하지 않을 때 비용을 최적화할 수 있습니다. 이 API 엔드포인트를 사용하려면 ClickHouse Cloud API 자격 증명이 필요합니다. 전체 엔드포인트 구성에 대한 자세한 내용은 cloud Prometheus 문서를 참조하십시오.

​

통합 예시

외부 통합을 사용하면 조직은 기존 모니터링 워크플로를 유지하고, 익숙한 도구에 대한 팀의 기존 전문성을 활용하며, 현재 프로세스를 중단하거나 대규모 재교육 없이도 ClickHouse 모니터링을 더 광범위한 인프라 관측성에 통합할 수 있습니다. 팀은 기존 알림 규칙과 에스컬레이션 절차를 ClickHouse 메트릭에 적용하는 동시에, 통합된 관측성 플랫폼에서 데이터베이스 성능을 애플리케이션 및 인프라 상태와 연계해 분석할 수 있습니다. 이러한 접근 방식은 현재 모니터링 환경에 대한 투자 수익을 극대화하고, 통합된 대시보드와 익숙한 도구 인터페이스를 통해 더 빠르게 문제를 해결할 수 있게 합니다.

​

Grafana Cloud 모니터링

Grafana는 직접 플러그인 통합 방식과 Prometheus 기반 방식으로 ClickHouse 모니터링을 제공합니다. Prometheus 엔드포인트 통합을 사용하면 기존 Grafana Cloud 인프라 내에서 시각화할 수 있으며, 동시에 모니터링 워크로드와 프로덕션 워크로드를 운영 측면에서 분리할 수 있습니다. 구성 방법은 Grafana의 ClickHouse 문서를 참조하십시오.

​

Datadog 모니터링

Datadog는 서비스의 유휴 상태 전환 동작을 고려하면서 클라우드 서비스 모니터링을 제대로 제공하는 전용 API 통합을 개발하고 있습니다. 그때까지는 운영상 분리와 비용 효율적인 모니터링을 위해 ClickHouse Prometheus 엔드포인트를 통한 OpenMetrics 통합 방식을 사용할 수 있습니다. 구성 지침은 Datadog의 Prometheus 및 OpenMetrics 통합 문서를 참조하십시오.

​

ClickStack

ClickStack는 ClickHouse를 스토리지 engine으로 사용해 로그, 메트릭, 트레이스를 위한 통합 플랫폼을 제공하는, 심층적인 시스템 분석과 디버깅을 위한 ClickHouse의 권장 관측성 솔루션입니다. 이 방식은 ClickStack UI인 HyperDX가 ClickHouse 인스턴스 내부의 시스템 테이블에 직접 연결하는 구조를 사용합니다. HyperDX에는 Selects, Inserts, Infrastructure 탭이 포함된 ClickHouse 중심의 dashboard가 기본 제공됩니다. 또한 팀은 Lucene 또는 SQL 구문을 사용해 시스템 테이블과 로그를 검색하고, Chart Explorer를 통해 사용자 지정 visualizations를 만들어 상세한 시스템 분석을 수행할 수 있습니다. 이 방식은 실시간 프로덕션 알림보다는 복잡한 문제의 디버깅, 성능 분석, 심층적인 시스템 내부 검사에 더 적합합니다.

이 방식에서는 HyperDX가 시스템 테이블을 직접 쿼리하므로 유휴 상태의 서비스가 활성화될 수 있다는 점에 유의하십시오.

​

ClickStack 배포 옵션

• ClickHouse Cloud의 HyperDX (비공개 프리뷰): 모든 ClickHouse Cloud 서비스에서 HyperDX를 실행할 수 있습니다.
• Helm: Kubernetes 기반 디버깅 환경에 권장됩니다. ClickHouse Cloud 통합을 지원하며, values.yaml을 통해 환경별 구성, 리소스 제한, 스케일링을 설정할 수 있습니다.
• Docker Compose: 각 구성 요소(ClickHouse, HyperDX, OTel collector, MongoDB)를 개별적으로 배포합니다. ClickHouse Cloud와 통합하는 경우에는 compose 파일을 수정해 사용하지 않는 구성 요소, 특히 ClickHouse와 OpenTelemetry Collector를 제거할 수 있습니다.
• HyperDX Only: 독립 실행형 HyperDX 컨테이너입니다.

전체 배포 옵션과 아키텍처 세부 정보는 ClickStack 문서와 데이터 수집 가이드를 참조하십시오.

OpenTelemetry Collector를 통해 ClickHouse Cloud Prometheus 엔드포인트에서 메트릭을 수집한 후, 시각화를 위해 별도의 ClickStack 배포로 전달할 수도 있습니다.

​

Grafana 플러그인 직접 통합

Grafana용 ClickHouse 데이터 소스 플러그인을 사용하면 시스템 테이블을 통해 ClickHouse의 데이터를 직접 시각화하고 탐색할 수 있습니다. 이 방식은 성능 모니터링과 세부적인 시스템 분석을 위한 사용자 지정 대시보드 생성에 적합합니다. 플러그인 설치 및 구성에 대한 자세한 내용은 ClickHouse data source plugin을 참조하십시오. 사전 구축된 대시보드와 알림 규칙이 포함된 Prometheus-Grafana mix-in을 사용한 전체 모니터링 구성은 Monitor ClickHouse with the new Prometheus-Grafana mix-in을 참조하십시오.

​

Datadog 직접 통합

Datadog는 시스템 테이블(system tables)을 직접 쿼리하는 에이전트용 ClickHouse Monitoring 플러그인을 제공합니다. 이 통합은 clusterAllReplicas 기능을 통해 클러스터 인식을 지원하는 종합적인 데이터베이스 모니터링을 제공합니다.

이 통합은 비용 최적화를 위한 유휴(idle) 동작과 호환되지 않고 클라우드 프록시 계층의 운영상 제한도 있어 ClickHouse Cloud 배포에는 권장되지 않습니다.

​

시스템 테이블 직접 사용하기

ClickHouse 시스템 테이블, 특히 system.query_log에 연결해 직접 쿼리하면 쿼리 성능을 심층적으로 분석할 수 있습니다. SQL 콘솔 또는 clickhouse client를 사용하면 느린 쿼리를 식별하고, 리소스 사용량을 분석하며, 조직 전반의 사용 패턴을 추적할 수 있습니다.

쿼리 성능 분석

시스템 테이블의 쿼리 로그를 사용해 쿼리 성능을 분석할 수 있습니다.

예시 쿼리: 모든 클러스터 레플리카에서 실행 시간이 가장 긴 상위 5개 쿼리 찾기:

SELECT
    type,
    event_time, 
    query_duration_ms,
    query,
    read_rows,
    tables
FROM clusterAllReplicas(default, system.query_log)
WHERE event_time >= (now() - toIntervalMinute(60)) AND type='QueryFinish'
ORDER BY query_duration_ms DESC
LIMIT 5
FORMAT VERTICAL

​

커뮤니티 모니터링 솔루션

ClickHouse 커뮤니티는 널리 사용되는 관측성 스택과 통합되는 종합적인 모니터링 솔루션을 개발해 왔습니다. ClickHouse Monitoring은 사전 구축된 대시보드와 함께 완전한 모니터링 구성을 제공합니다. 이 오픈 소스 프로젝트는 검증된 대시보드 구성과 확립된 모범 사례를 바탕으로 ClickHouse 모니터링을 도입하려는 팀에 빠른 시작 방법을 제공합니다.

다른 직접 데이터베이스 모니터링 방식과 마찬가지로, 이 솔루션은 ClickHouse 시스템 테이블(system tables)을 직접 쿼리하므로 인스턴스가 유휴 상태로 전환되지 않으며 비용 최적화에도 영향을 줍니다.

​

시스템 영향 고려 사항

위의 모든 접근 방식은 Prometheus 엔드포인트를 활용하거나, ClickHouse Cloud에서 관리되거나, 시스템 테이블(system tables)을 직접 쿼리하는 방식을 조합해 사용합니다. 이 중 마지막 옵션은 프로덕션 ClickHouse 서비스에 직접 쿼리하는 방식에 의존합니다. 이로 인해 관찰 대상 시스템에 쿼리 부하가 추가되고, ClickHouse Cloud 인스턴스가 유휴 상태로 전환되지 못해 비용 최적화에 영향을 줍니다. 또한 프로덕션 시스템에 장애가 발생하면 두 시스템이 결합되어 있으므로 모니터링도 영향을 받을 수 있습니다. 이 접근 방식은 심층적인 내부 검사와 디버깅에는 효과적이지만, 실시간 프로덕션 모니터링에는 상대적으로 덜 적합합니다. 다음 섹션에서 설명하는 외부 도구 통합 방식과 직접 Grafana 통합을 평가할 때는, 세부적인 시스템 분석 기능과 운영 오버헤드 사이의 이러한 절충점을 고려하십시오.