Delete app.py

app.py

@@ -1,51 +0,0 @@
-import pandas as pd
-from huggingface_hub import HfApi, Repository
-from datasets import Dataset
-combined_file = "combined_checkpoints.csv"
-chunk_size = 10000  # Możesz dostosować ten rozmiar w zależności od dostępnej pamięci
-chunks = pd.read_csv(combined_file, chunksize=chunk_size)
-
-df_list = []
-for chunk in chunks:
-    # Tutaj możesz przeprowadzić dodatkowe przetwarzanie na każdym fragmencie
-    df_list.append(chunk)
-
-# Łączenie fragmentów w jeden DataFrame
-df_combined = pd.concat(df_list, ignore_index=True)
-df_combined = pd.read_csv(combined_file)
-print("Załadowano połączony zbiór danych.")
-
-# Mieszanie danych
-df_shuffled = df_combined.sample(frac=1).reset_index(drop=True)
-
-# Podział danych na zbiory
-train_ratio = 0.8
-validation_ratio = 0.1
-test_ratio = 0.1
-
-train_size = int(train_ratio * len(df_shuffled))
-validation_size = int(validation_ratio * len(df_shuffled))
-
-df_train = df_shuffled[:train_size]
-df_validation = df_shuffled[train_size:train_size + validation_size]
-df_test = df_shuffled[train_size + validation_size:]
-
-# Przygotowanie do przesłania na Hugging Face Hub
-hf_username = "adowu"
-hf_dataset_name = "polish_sentences"
-token = "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"
-repo_id = f"{hf_username}/{hf_dataset_name}"
-
-# Tworzenie repozytorium na Hugging Face Hub
-api = HfApi()
-api.create_repo(token=token, repo_id=repo_id, repo_type="dataset", exist_ok=True)
-
-# Przesyłanie danych
-repo = Repository(local_dir=repo_id, clone_from=repo_id, use_auth_token=token)
-datasets = {'train': Dataset.from_pandas(df_train), 'validation': Dataset.from_pandas(df_validation), 'test': Dataset.from_pandas(df_test)}
-
-for split, dataset in datasets.items():
-    dataset.save_to_disk(f"{repo_id}/{split}")
-    repo.push_to_hub(commit_message=f"Add {split} split")
-
-print(f"Zbiory danych zostały przesłane na Hugging Face Hub: https://huggingface.co/datasets/{repo_id}")