BigQuery로 로그 분석

BigQuery는 분석을 수행할 수 있는 강력한 도구입니다. 이를 사용하여 데이터에 대해 SQL과 유사한 쿼리를 수행할 수 있습니다. 사용 방법 분석을 위해 로그를 BigQuery로 명시적으로 라우팅해야 합니다. 다음 섹션에서 설명합니다.

BigQuery로 로그 라우팅

  1. 로그 탐색기에서 Fleet Engine 로그(Fleetengine.googleapis.com/Fleet)를 분리합니다.
  2. 쿼리 결과 창에서 작업 또는 추가 작업을 클릭합니다. 메뉴를 클릭하고 싱크 만들기를 선택합니다.
  3. 싱크 이름 (예: FleetEngineLogsSink)을 지정합니다. 다음을 클릭합니다.
  4. 싱크 대상 위치에서 BigQuery 데이터 세트를 선택합니다.
  5. BigQuery 데이터 세트 선택에서 새 BigQuery 데이터 세트 만들기를 선택합니다.
  6. 데이터 세트 만들기 대화상자에 데이터 세트 ID를 입력합니다.
  7. 나머지는 그대로 두고 데이터 세트 만들기를 클릭합니다.
  8. 파티션을 나눈 테이블 사용을 선택합니다. 다음을 클릭합니다.
  9. 나가기 싱크에 포함할 로그 선택 및 필터링할 로그 선택 싱크를 그대로 사용합니다.
  10. 싱크 만들기를 클릭합니다.

이제 로그가 BigQuery 데이터 세트를 채우기 시작하는데, 여기에는 있습니다. 지원되는 대상으로 로그 라우팅도 참조하세요.

로그 데이터를 BigQuery로 라우팅하면 FleetEngineLogs 데이터 세트는 로그 유형마다 하나씩 자동으로 채워집니다.

  • CreateVehicle
  • GetVehicle
  • ListVehicles
  • SearchVehicles
  • UpdateVehicle
  • CreateTrip
  • GetTrip
  • UpdateTrip
  • ListTrips

테이블 이름에는 다음 패턴이 사용됩니다.

project_id.data_set.log_name

예를 들어 프로젝트 이름이 test-project이고 데이터 세트 이름이 FleetEngineLogs: CreateTrip 테이블의 이름은 다음과 같습니다.

test-project.FleetEngineLogs.fleetengine_googleapis_com_create_trip

BigQuery 쿼리 예

다음 예시 쿼리는 다양한 로그 항목을 검색하는 방법을 보여줍니다. 살펴보겠습니다

시간별로 그룹화된 CreateTrips 로그 수

    SELECT TIMESTAMP_TRUNC(timestamp, HOUR) as hour,
           count(*) as num_trips_created
    FROM
    `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_create_trip`
    GROUP BY hour
    ORDER by hour

차량 1대당 시간당 정류장 수

    SELECT
      jsonpayload_v1_updatevehiclelog.request.vehicleid AS vehicle,
      TIMESTAMP_TRUNC(timestamp, HOUR) AS hour,
      COUNT(*) AS num_stops
    FROM
      `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_update__vehicle`
    WHERE
    ARRAY_LENGTH(jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments) > 0
    AND jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments[
    OFFSET
    (0)].stop.state = 'VEHICLE_STOP_STATE_LOG_ARRIVED'
    GROUP BY
    1,
    2
    ORDER BY
    2

예를 들어, 다음 쿼리를 통해 최근 1시간 동안의 다음과 같은 정보를 알 수 있습니다.

  • 차량 A는 12시간에 10번 정차를 완료했고 13시간에 8번 정류장을 완료했습니다.
  • 차량 B는 11시간에 5개의 정류장을, 12시간에 7개의 정류장을 완료했습니다.
  • 차량 C는 13시간에 12번 정차를 완료했고 14시간에 9번 정차를 완료했습니다.

BigQuery로 라우팅된 로그 보기도 참조하세요.

BigQuery와 Looker Studio 통합

BigQuery를 비즈니스 인텔리전스 도구와 통합하여 대시보드를 만들 수 있음 비즈니스 분석에 적합합니다 Looker Studio를 참고하세요.

다음 예는 Looker Studio 대시보드를 빌드하는 방법을 보여줍니다. 이동 및 차량 이동을 지도에 시각화합니다.

  1. 새 Looker Studio 대시보드를 실행하고 데이터 연결로서의 BigQuery
  2. 커스텀 쿼리를 선택하고 요금이 청구됩니다
  3. 쿼리 상자에 다음 쿼리 중 하나를 입력합니다.

주문형 여행 예시 쿼리

    SELECT
     timestamp,
     labels.vehicle_id,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.latitude AS lat,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.longitude AS lng
    FROM
    `ProjectId.TableName.fleetengine_googleapis_com_update_vehicle`

예약된 작업 예시 쿼리

    SELECT
    labels.delivery_vehicle_id,
    jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.longitude as lat, jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.latitude as lng
    FROM `ProjectID.TableName.fleetengine_googleapis_com_update_delivery_vehicle`
  1. 차트 유형 풍선 지도를 선택한 다음 위치 필드를 선택합니다.
  2. 필드 추가를 선택합니다.
  3. 필드 이름을 지정하고 다음 수식을 추가합니다. CONCAT(lat, ",", lng)
  4. 유형을 지역->위도, 경도로 설정합니다.
  5. 대시보드에 컨트롤을 추가하여 데이터를 필터링할 수 있습니다. 예를 들어 기간 필터
  6. 기간 상자를 수정하여 기본 기간을 선택합니다.
  7. vehicle_id의 드롭다운 목록 컨트롤을 추가할 수 있습니다. 다음으로 바꿉니다. 차량의 움직임이나 움직임을 시각화하여 정보를 얻을 수 있습니다.

Looker Studio 출력 예시:

Looker Studio 출력 예시

다음 단계

데이터 보관 정책을 준수하려면 로그 제한하기를 참조하세요. 보관에 유의하세요.