[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
6 Q/ ?9 m' I$ v4 L8 |+ R大哥，你这个头像很爱啊，像ai又想vam，有没有出处

% s1 r+ Z! ?8 A抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
from PIL import Image

! F+ z1 t3 g$ L3 M# P5 g) B8 hdef compute_image_hash(image_path):
; j0 a* W1 N: H& j    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
& [6 g! J# o: E3 _' H5 ?        with Image.open(image_path) as image:
' d0 ?4 R# L& ~$ `! Y9 r* f7 f) H            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
$ [  n! t9 z2 u8 e' G5 `        print(f"处理图像 {image_path} 时出错: {e}")
5 @. @2 a, N" s. V/ [9 k# P        return None
( D! ~2 _" b  ~7 F3 m% n
8 L+ Z( \- ~0 d3 p0 y/ {def remove_duplicates(image_folder):
! G" u3 _! ?% f  f  X) S4 K    hash_dict = {}
, m1 ^. o: ]" w/ h: C5 d& d/ T2 G    duplicates = []
% B& m7 Z% g3 W0 \6 v8 W" m
    for filename in os.listdir(image_folder):
; j* q: P, ^" O) [& }        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)

; L- {1 B; N0 ?+ Q( |6 R3 {; q            if image_hash in hash_dict:
3 ^+ E' Z5 f9 s0 ^' |7 G4 W* j; R                duplicates.append(image_path)
            else:
; [# |( e2 w. V                hash_dict[image_hash] = image_path
        else:
$ R1 \, k" S9 x2 G3 t- K            pass
8 u2 \( g3 }/ ]0 J. _: N; k
- Q$ |# T/ f( l- S: w    for duplicate in duplicates:
9 f: b+ {( X0 Z0 W        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")

" y; k# G+ Y, [* E    print("Duplicate removal complete.")

9 _7 ~$ v0 Q. T( j! oimage_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
3 W! C+ h- l* n$ A! X, y有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
3 s& D; Q; M: z3 v$ k6 U- K+ q9 m大哥，你这个头像很爱啊，像ai又想vam，有没有出处

  E) f3 q/ x) F% A8 D一眼ai
. U# u6 x' K# \/ \3 z% h: w' O