Przejdź do treści
PL
Uzyskaj klucz API
Przeglądaj dokumentację

Poradniki

Wzbogacenie listy filmów wideo YouTube

Dodaj metadane do listy odtwarzania, listy odczytu lub zbioru danych aplikacji, zachowując oryginalny rekord IDs i każdy wynik.

Na tej stronie

Od twoich nagrań do wzbogaconego zbioru danych

Zacznij od trzech płyt odnoszących się do dwóch filmów. Zapytajcie raz każdy odrębny film, a następnie dołączcie do metadanych do wszystkich trzech rekordów. Ten strumień pracy wykorzystuje małe żądanie Batch i utrzymuje nieskuteczne elementy widoczne.

Pola wyjścioweCel
record_id · inputTwój oryginalny rekord i pola, w oryginalnej kolejności.
video_id · query_index · job_idNamierzcie każdy rekord do pytania, które go wyprodukowało.
status · metadata · result_fileUkończony wynik lub wyraźny wynik pending/failed/read-error.

1. Sprawdź narzędzia i dostęp

FlashData CLI v1.2.1 na PATH i Node.js 22 +. Uruchom w nowym folderze za zgodą istniejącego właściciela i youtube_metadata. Bash i PowerShell używają tych samych komend poniżej.

Zachowaj ten sam profil i konto w całym. Dla nazwanego profilu, ustawić FLASHDATA_PROFILE w tym terminalu, więc kolekcjoner również go używa. Agenci mogą załadować FLASHDATA_API_KEY ze swojego tajnego sklepu.

Narzędzia i bezpłatna kontrola dostępu
flashdata --version
node --version
flashdata auth status --json
mkdir video-enrichment
cd video-enrichment

Sprawdzić bilans i przepustowość

Potwierdź dostęp właściciela, pozwolenie youtube_metadata i miejsce na dwa pozycje wsadowe i oczekujących na pracę. Jeżeli tymczasowy dostęp jest nadal aktywny, należy go zgłosić lub użyć przepisu single- video. Przed przedłożeniem należy dokonać przeglądu szacunków dotyczących przebiegu suszenia na etapie 3.

Bezpłatne czytanie konta
flashdata account balance --json
flashdata account limits --json

2. Przygotuj zapisy wejściowe

Zapisz to jako videos.json. Zastąpić wartości własnym rekordem IDs i znakiem 11- YouTube wideo IDs. Dodatkowe pola pozostają w lokalnym mapowaniu i nie są wysyłane do FlashData. Zezwala się na powtarzanie wideo IDs; record_id musi być unikalny.

videos.json
[
  {
    "record_id": "lesson-intro",
    "video_id": "jNQXAC9IVRw",
    "collection": "Course"
  },
  {
    "record_id": "playlist-song",
    "video_id": "dQw4w9WgXcQ",
    "collection": "Playlist"
  },
  {
    "record_id": "saved-intro",
    "video_id": "jNQXAC9IVRw",
    "collection": "Reading list"
  }
]

Zapisz prepare.mjs

Utwórz prepare.mjs obok videos.json w folderze wzbogacania wideo. Skopiuj do niego cały kod poniżej i zapisz go.

Skrypt waliduje każdy wiersz przed utworzeniem prepared/. Odduplikuje wideo IDs dla tego żądania metadanych, zachowując oryginalne rekordy i zamówienie.

prepare.mjs
// prepare.mjs — local preparation; sends no API requests.
import { mkdir, readFile, writeFile } from 'node:fs/promises';

const rows = JSON.parse((await readFile('videos.json', 'utf8')).replace(/^\uFEFF/, ''));
if (!Array.isArray(rows) || rows.length === 0) throw new Error('Supply a nonempty array of records.');
const recordIds = new Set(), videoIndexes = new Map(), queries = [];
const mapping = rows.map((input, index) => {
  if (!input || typeof input !== 'object' || Array.isArray(input)
      || typeof input.record_id !== 'string' || !input.record_id.trim()
      || recordIds.has(input.record_id) || typeof input.video_id !== 'string'
      || !/^[A-Za-z0-9_-]{11}$/.test(input.video_id)) {
    throw new Error('Invalid or duplicate record_id, or invalid video_id at row ' + (index + 1));
  }
  recordIds.add(input.record_id);
  if (!videoIndexes.has(input.video_id)) {
    videoIndexes.set(input.video_id, queries.length);
    queries.push({ source: 'youtube_metadata', video_id: input.video_id,
      params: { include_formats: false } });
  }
  return { input, query_index: videoIndexes.get(input.video_id) };
});
// Existing preparation is kept intact. Use it to resume, or choose a new folder.
await mkdir('prepared');
await writeFile('prepared/batch.json', JSON.stringify(queries, null, 2), { flag: 'wx' });
await writeFile('prepared/input-map.json', JSON.stringify(mapping, null, 2), { flag: 'wx' });
console.log(JSON.stringify({ inputRecords: rows.length, uniqueQueries: queries.length,
  reusedVideoIds: rows.length - queries.length }, null, 2));

Zbuduj listę zapytań lokalnie

Po zapisaniu prepare.mjs, uruchom go raz. Oczekuj inputRecords: 3, uniqueQueries: 2 i reusedVideoIds: 1. Dla tego przebiegu należy zachować w stanie niezmienionym prepared/batch.json i prepared/input-map.json. Jeżeli istnieje przygotowany / już przygotowany, ponownie użyj go do wznowienia; użyj nowego folderu do innego zbioru danych.

Przygotowanie · brak połączeń API
node prepare.mjs

3. Podgląd i przesłanie unikalnych filmów

Suchy przebieg sprawdza rzeczywistą liczbę zapytań, bieżące ceny i limity konta. Przejrzyjcie to, a potem poddajcie się raz. Próbka ma dwa billable queeries, nawet jeśli dane wejściowe mają trzy rekordy.

Zachowaj submission.json i katalog stanu CLI. Po przerwie ponownie użyj tego samego uruchomienia ID i wejścia. Nowy bieg ID tworzy nową pracę; przed ponownym uruchomieniem należy sprawdzić niepewny proces składania.

Podgląd bez składania
flashdata batch submit --input prepared/batch.json --dry-run --json
Prześlij po dokonaniu przeglądu oszacowania
flashdata batch submit --input prepared/batch.json --run-id video-metadata-001 --output submission.json --json

4. Zbierz i dołącz do wyników

Zapisz collect.mjs poniżej, a następnie uruchom. Kolekcjoner czeka do dwóch minut na niedokończoną pracę, sprawdza, czy wyniki należą do żądanego filmu i dołącza każdy wynik do oryginalnych rekordów. Prowadź jednego kolekcjonera na raz.

Uruchom ponownie, aby wznowić to samo zadanie IDs. Ponownie wykorzystuje potwierdzone wyniki lokalne i nie wysyła nowych zapytań. Kod wyjścia 1 oznacza, że niektóre wyniki nadal wymagają uwagi; sprawdź je zamiast ponownie zapisać listę.

Zapisz collect.mjs

Utwórz collect.mjs w tym samym folderze wzbogacania wideo, obok submission.json i prepared/. Skopiuj do niego cały kod poniżej i zapisz go.

collect.mjs
// collect.mjs — reads saved jobs; never submits another query.
import { execFileSync } from 'node:child_process';
import { mkdir, readFile, writeFile, rename } from 'node:fs/promises';

const readJSON = async file => JSON.parse((await readFile(file, 'utf8')).replace(/^\uFEFF/, ''));
const cli = (...args) => JSON.parse(execFileSync('flashdata', [
  ...args, '--json', '--non-interactive', '--timeout', '2m',
], { encoding: 'utf8', stdio: ['ignore', 'pipe', 'pipe'], maxBuffer: 16 * 1024 * 1024 }));
const inputs = await readJSON('prepared/batch.json');
const mapping = await readJSON('prepared/input-map.json');
const saved = await readJSON('submission.json');
const receipts = (saved.submission ?? saved).queries;
if (!Array.isArray(inputs) || !inputs.length || !Array.isArray(receipts)
    || receipts.length !== inputs.length || new Set(receipts.map(r => r.id)).size !== receipts.length
    || inputs.some(q => q.source !== 'youtube_metadata') || !Array.isArray(mapping) || !mapping.length
    || mapping.some(row => !Number.isInteger(row.query_index)
      || inputs[row.query_index]?.video_id !== row.input?.video_id)) {
  throw new Error('Input/receipt mismatch. Keep the original prepared files and receipt.');
}
await mkdir('results', { recursive: true });
const binding = JSON.stringify({ inputs, mapping, receipts });
try { await writeFile('results/input-receipts.json', binding, { flag: 'wx' }); }
catch (error) {
  if (error.code !== 'EEXIST') throw error;
  if (await readFile('results/input-receipts.json', 'utf8') !== binding) {
    throw new Error('Inputs or receipts changed. Restore the original files.');
  }
}
const rows = inputs.map((input, query_index) => ({ query_index,
  video_id: input.video_id, job_id: receipts[query_index].id, status: 'unread' }));
const saveRows = async (path, values) => {
  await writeFile(path + '.next', values.map(row => JSON.stringify(row)).join('\n') + '\n');
  await rename(path + '.next', path);
};
for (const row of rows) {
  try {
    if (!/^[a-zA-Z0-9_-]+$/.test(row.job_id ?? '')) throw new Error('Invalid job ID.');
    const file = 'results/' + row.job_id + '.json';
    let result;
    try { result = await readJSON(file); }
    catch (error) { if (error.code !== 'ENOENT') throw error; }
    if (!result) {
      let job;
      try { job = cli('jobs', 'wait', row.job_id).data; }
      catch { job = cli('jobs', 'get', row.job_id).data; }
      if (job.videoId !== row.video_id || job.source !== 'youtube_metadata') {
        throw new Error('Job/input mismatch. Inspect the saved input and receipt.');
      }
      row.status = job.status;
      row.error = job.error ?? null;
      if (job.status === 'completed') {
        cli('jobs', 'result', row.job_id, '--output', file);
        result = await readJSON(file);
      }
    }
    if (result) {
      if (result.status !== 'done' || result.source !== 'youtube_metadata'
          || result.results?.length !== 1 || result.results[0].videoId !== row.video_id) {
        throw new Error('Result/video mismatch. Inspect the saved JSON before continuing.');
      }
      Object.assign(row, { status: 'completed', metadata: result.results[0], error: null,
        credits: result.usage?.credits ?? null, result_file: file });
    }
  } catch (error) {
    row.status = 'read_error';
    row.error = error.stderr?.toString().trim() || error.message;
  }
  await saveRows('metadata.ndjson', rows); // One outcome and charge per unique query.
  await saveRows('enriched.ndjson', mapping.map(({ input, query_index }) => {
    const { credits, ...outcome } = rows[query_index]; // Do not duplicate a charge across input records.
    return { record_id: input.record_id, input, ...outcome };
  }));
}
const failed = rows.filter(row => ['failed', 'cancelled'].includes(row.status));
await writeFile('failed-videos.json', JSON.stringify(failed, null, 2));
console.table(rows.map(({ video_id, job_id, status }) => ({ video_id, job_id, status })));
console.log('Saved enriched.ndjson, metadata.ndjson and results/*.json.');
if (rows.some(row => row.status !== 'completed')) process.exitCode = 1;

Uruchom lub wznowij zbieracz

Uruchom od wzbogacania wideo po zapisać collect.mjs. Zachowaj oryginalny profil CLI i katalog stanu.

Zbierz lub wznowij
node collect.mjs

Oczekiwane pliki

PlikUżyj go do
enriched.ndjsonJeden wiersz na oryginalny rekord, w tym duplikaty i niepowodzenia. Import przez record_id.
metadata.ndjsonJeden wiersz na unikalne zapytanie, z zadaniem ID, plik wyników i rzeczywiste kredyty. Policz raz.
results/*.jsonSurowe odpowiedzi z powodzeniem plus zapisane połączenie input/receipt.
failed-videos.jsonPotwierdzono pracę failed/cancelled do przeglądu. Praca w oczekiwaniu i błędu odczytu nie jest umieszczona na tej liście.

5. Użyj wzbogaconych rekordów w aplikacji

Zapisz inspect.mjs w video-wzbogacanie, obok enriched.ndjson, a następnie uruchom go z tego folderu. Oczekuj trzech oryginalnych nagrań i dwóch unikalnych zapytań. Upsert wypełnił wiersze przez record_id, zachował pola wejściowe i zachował niewypełnione wiersze widoczne w raporcie importowym. Przeczytaj tytuł i czas trwania metadanych; użyj video_id dla linków lub późniejszej prośby o podpisy.

inspect.mjs
// inspect.mjs — inspect your dataset without another API call.
import { readFile } from 'node:fs/promises';
const rows = (await readFile('enriched.ndjson', 'utf8')).trim().split('\n').map(JSON.parse);
console.table(rows.map(row => ({ record_id: row.record_id, video_id: row.video_id,
  collection: row.input.collection, status: row.status, title: row.metadata?.title ?? null })));
console.log('Original records:', rows.length);
console.log('Unique queries:', new Set(rows.map(row => row.query_index)).size);
Sprawdź połączone rekordy
node inspect.mjs

Kontynuuj od punktu, który wymaga uwagi

Zapisywać wyniki w okresie retencji 24- godzinnej. W celu wielokrotnego odświeżania należy użyć nowego folderu migawki i uruchomić ID tylko wtedy, gdy zamierza się płacić za świeże dane; zachować w aplikacji stabilność record_id.

WynikNastępna akcja
pending / processingSprawdź później kolektora. Zachowaj tę samą pracę, IDs.
failed / cancelledPrzegląd failed-videos.json i błąd zadania. Popraw sprawę, zanim umyślnie poprosisz o nagranie.
read_errorPopraw dostęp, powiązanie wejściowe lub zapisany wynik. Zachowaj plik surowy do kontroli; błąd odczytu nie oznacza, że potrzebne jest nowe zapytanie.
Nieznany wynik zgłoszeniaPrzed ponownym złożeniem sprawdź przebieg lokalny i History.
Sprawdź zapisaną partię
flashdata runs show video-metadata-001 --json