Java 多线程——统计文件中各单词数量

问题描述

Word Count 是一个著名的练手程序。一个文本文件包含若干行,每行包含若干个只包含小写字母的单词,单词之间以空格分割。编写一个程序,统计一个文件列表中,每个单词出现的次数。

方法一:使用Future与线程池

public class MultiThreadWordCount {
    public static Map<String, Integer> count(int threadNum,
                                             List<File> files) throws FileNotFoundException, ExecutionException, InterruptedException {
        final ExecutorService threadPool = Executors.newFixedThreadPool(threadNum);
        final HashMap<String, Integer> result = new HashMap<>();
        final ArrayList<Future<Map<String, Integer>>> allFilesFutureWordsCount = new ArrayList<>();
        for (File file : files) {
            final BufferedReader reader = new BufferedReader(new FileReader(file));
            allFilesFutureWordsCount.addAll(readAFileAndCountWord(reader, threadPool, threadNum));
        }

        for (Future<Map<String, Integer>> future : allFilesFutureWordsCount) {
            final Map<String, Integer> aFileWordCount = future.get();
            mergeAFileWordCountIntoResultMap(aFileWordCount, result);
        }

        return result;
    }

    private static void mergeAFileWordCountIntoResultMap(Map<String, Integer> aFileWordCount, HashMap<String, Integer> result) {
        for (Map.Entry<String, Integer> entry : aFileWordCount.entrySet()) {
            result.put(entry.getKey(), result.getOrDefault(entry.getKey(), 0) + entry.getValue());
        }
    }

    private static ArrayList<Future<Map<String, Integer>>> readAFileAndCountWord(BufferedReader reader,
                                                                                 ExecutorService threadPool,
                                                                                 int threadNum) {
        final ArrayList<Future<Map<String, Integer>>> allFilesWordCount = new ArrayList<>();
        for (int i = 0; i < threadNum; i++) {
            allFilesWordCount.add(threadPool.submit(new JobWorker(reader)));
        }
        return allFilesWordCount;
    }

    static class JobWorker implements Callable<Map<String, Integer>> {
        private final BufferedReader reader;

        public JobWorker(BufferedReader reader) {
            this.reader = reader;
        }

        @Override
        public Map<String, Integer> call() throws Exception {
            String line;
            final HashMap<String, Integer> aFileWordCount = new HashMap<>();
            while ((line = reader.readLine()) != null) {
                final String[] words = line.split(" ");
                for (String word :
                        words) {
                    aFileWordCount.put(word, aFileWordCount.getOrDefault(word, 0) + 1);
                }
            }
            return aFileWordCount;
        }
    }
}

方法二:使用ReentrantLock

public class MultiThreadWordCount {
    public static Map<String, Integer> count(int threadNum, List<File> files) throws FileNotFoundException {
        final HashMap<String, Integer> result = new HashMap<>();
        final ArrayList<Map<String, Integer>> allFilesFutureWordsCount = new ArrayList<>();
        for (File file : files) {
            final BufferedReader reader = new BufferedReader(new FileReader(file));
            allFilesFutureWordsCount.add(readAFileAndCountWord(reader, threadNum));
        }

        for (Map<String, Integer> aFileWordCount : allFilesFutureWordsCount) {
            mergeAFileWordCountIntoResultMap(aFileWordCount, result);
        }

        return result;
    }

    private static void mergeAFileWordCountIntoResultMap(Map<String, Integer> aFileWordCount, HashMap<String, Integer> result) {
        for (Map.Entry<String, Integer> entry : aFileWordCount.entrySet()) {
            result.put(entry.getKey(), result.getOrDefault(entry.getKey(), 0) + entry.getValue());
        }
    }

    private static Map<String, Integer> readAFileAndCountWord(BufferedReader reader, int threadNum) {
        final Map<String, Integer> aFileWordCount = new HashMap<>();
        final ReentrantLock lock = new ReentrantLock();
        for (int i = 0; i < threadNum; i++) {
            new Thread(new JobWorker(lock, reader, aFileWordCount)).start();
        }
        return aFileWordCount;
    }

    static class JobWorker implements Runnable {
        private final ReentrantLock lock;
        private final BufferedReader reader;
        private final Map<String, Integer> aFileWordCount;

        public JobWorker(ReentrantLock lock, BufferedReader reader, Map<String, Integer> aFileWordCount) {
            this.lock = lock;
            this.reader = reader;
            this.aFileWordCount = aFileWordCount;
        }

        @Override
        public void run() {
            lock.lock();
            String line;
            try {
                while ((line = reader.readLine()) != null) {
                    final String[] words = line.split(" ");
                    for (String word : words) {
                        aFileWordCount.put(word, aFileWordCount.getOrDefault(word, 0) + 1);
                    }
                }
            } catch (IOException e) {
                e.printStackTrace();
            }
            lock.unlock();
        }
    }
}

方法三:使用synchronized同步块

static class JobWorker implements Runnable {
    private final Object lock;
    private final BufferedReader reader;
    private final Map<String, Integer> aFileWordCount;

    public JobWorker(Object lock, BufferedReader reader, Map<String, Integer> aFileWordCount) {
        this.lock = lock;
        this.reader = reader;
        this.aFileWordCount = aFileWordCount;
    }

    @Override
    public void run() {
        synchronized (lock) {
            String line;
            try {
                while ((line = reader.readLine()) != null) {
                    final String[] words = line.split(" ");
                    for (String word : words) {
                        aFileWordCount.put(word, aFileWordCount.getOrDefault(word, 0) + 1);
                    }
                }
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 224,896评论 6 522
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 96,283评论 3 402
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 172,085评论 0 367
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 61,010评论 1 300
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 70,015评论 6 400
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 53,492评论 1 314
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,858评论 3 428
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 40,829评论 0 279
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 47,374评论 1 324
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 39,409评论 3 346
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 41,527评论 1 355
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 37,131评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,858评论 3 339
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 33,296评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 34,434评论 1 276
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 50,087评论 3 381
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 46,597评论 2 366

推荐阅读更多精彩内容

  • 最近准备看一下各个日志框架能否以及如何实现多线程下写入自定义文件。同时深入的整理并学习一下这些日志框架。 一、 目...
    ZMSunrise阅读 2,938评论 2 7
  • 问题 java开发中,线程数通常定义为:线程数 = Runtime.getRuntime().availableP...
    LssTechnology阅读 819评论 0 2
  • 久违的晴天,家长会。 家长大会开好到教室时,离放学已经没多少时间了。班主任说已经安排了三个家长分享经验。 放学铃声...
    飘雪儿5阅读 7,530评论 16 22
  • 今天感恩节哎,感谢一直在我身边的亲朋好友。感恩相遇!感恩不离不弃。 中午开了第一次的党会,身份的转变要...
    迷月闪星情阅读 10,578评论 0 11
  • 可爱进取,孤独成精。努力飞翔,天堂翱翔。战争美好,孤独进取。胆大飞翔,成就辉煌。努力进取,遥望,和谐家园。可爱游走...
    赵原野阅读 2,741评论 1 1