102 Commits (9d712d64d747d53795f92d26139e89dfcbb8fe05)
 

Autor SHA1 Nachricht Datum
  JustAnotherArchivist 9d712d64d7 Ignore certain URLs on Twitter and Instagram entirely vor 4 Jahren
  JustAnotherArchivist 87826d4844 Use line variable instead of prefix+url vor 4 Jahren
  JustAnotherArchivist 163aacf13c Print deletion URL on stderr vor 4 Jahren
  JustAnotherArchivist 486a593f15 Add support for more weird Facebook URLs vor 4 Jahren
  JustAnotherArchivist 256a94443e Fix deduplication within each section processing vor 4 Jahren
  JustAnotherArchivist 98d77ecc96 Deduplicate output vor 4 Jahren
  JustAnotherArchivist 6ce64baf87 Remove redundant url-normalise after the extraction vor 4 Jahren
  JustAnotherArchivist 318183148e Fix URL extraction from Facebook profile overview pages vor 4 Jahren
  JustAnotherArchivist 869ade27eb Separate names in stderr annotations for the various url-normalise processes vor 4 Jahren
  JustAnotherArchivist 79f0bd4332 Normalise URLs everywhere to reduce duplicates vor 4 Jahren
  JustAnotherArchivist dc4efcfbfb One URL normalisation script to rule them all vor 4 Jahren
  JustAnotherArchivist 0f13a1fadd Add verbosity options, and annotate stderr on wiki-recursive-extract vor 4 Jahren
  JustAnotherArchivist 3ec816cd04 Add script for link extraction from social media profiles vor 4 Jahren
  JustAnotherArchivist 5285c406d9 Add script for recursive website and social media discovery vor 4 Jahren
  JustAnotherArchivist 2be9ca922e Ignore more useless Facebook links vor 4 Jahren
  JustAnotherArchivist c3b0e5543e Add support for facebook.com/pg/something vor 4 Jahren
  JustAnotherArchivist 7c389f1fef Add support for hashbang fragments on Twitter links vor 4 Jahren
  JustAnotherArchivist c56736bc4a Ignore /intent on Twitter vor 4 Jahren
  JustAnotherArchivist 4f34753788 Add support for Instagram posts and ignore spurious links from the CDN vor 4 Jahren
  JustAnotherArchivist ad030f5d21 Add support for Facebook pages and groups vor 4 Jahren
  JustAnotherArchivist cd0b3f6214 Ignore /vi/* on YouTube (video thumbnails) vor 4 Jahren
  JustAnotherArchivist 6f1cca73ad Support hashtags vor 4 Jahren
  JustAnotherArchivist c61efa03f0 Make social media normalisation script snscrape-independent vor 4 Jahren
  JustAnotherArchivist e6008eb971 Add script for automatic social media discovery vor 4 Jahren
  JustAnotherArchivist fed66542fa Support python3 in any directory instead of just /usr/bin vor 4 Jahren
  JustAnotherArchivist 5982e131a4 Stop gracefully when encountering a SIGPIPE vor 4 Jahren
  JustAnotherArchivist c13a1150df Add support for WARC/1.1 vor 4 Jahren
  JustAnotherArchivist 376cde7b8c Fix broken block digest calculation on malformed HTTP responses vor 4 Jahren
  JustAnotherArchivist b121cbd958 Write all log messages to stderr vor 4 Jahren
  JustAnotherArchivist ed1270d988 Add support for upper-cased chunk lengths vor 4 Jahren
  JustAnotherArchivist d4826abde2 Add record ID to log messages vor 4 Jahren
  JustAnotherArchivist 4925a912c0 Add youtube-filter-autogen-channels vor 4 Jahren
  JustAnotherArchivist 9b8f223776 Add wiki-sections-sort vor 4 Jahren
  JustAnotherArchivist 552a4147c2 Fix not returning complete body for non-chunked responses vor 4 Jahren
  JustAnotherArchivist 0dc0de6b50 Add support for lists vor 4 Jahren
  JustAnotherArchivist 9d344df8c6 +x vor 4 Jahren
  JustAnotherArchivist f6a7cbfc70 Fix --with-list-urls help message vor 4 Jahren
  JustAnotherArchivist 9743aa7c35 Add s3-bucket-list vor 4 Jahren
  JustAnotherArchivist 91adce786f Add YouTube normalisation script vor 4 Jahren
  JustAnotherArchivist 5ca90c3b7d Update tmux session commands vor 4 Jahren
  JustAnotherArchivist 679923d37d Add support for Twitter hashtag extraction vor 4 Jahren
  JustAnotherArchivist 663383830c Add support for lists vor 4 Jahren
  JustAnotherArchivist d85d142def Handle parameters on Twitter URLs vor 5 Jahren
  JustAnotherArchivist 5984565417 Handle Twitter URLs with trailing slash vor 5 Jahren
  JustAnotherArchivist 8647ccaa8f Support subdomain-less Facebook URLs vor 5 Jahren
  JustAnotherArchivist 66ec0c93c4 Handle more Facebook URLs vor 5 Jahren
  JustAnotherArchivist baa8a566bd Add script for scraping MEP links from europarl.europa.eu vor 5 Jahren
  JustAnotherArchivist c2413b2c4f Add ArchiveBot wiki list helper vor 5 Jahren
  JustAnotherArchivist 72818019bc Extract external links from Twitter vor 5 Jahren
  JustAnotherArchivist b262d893da Silence by default vor 5 Jahren